Учебное пособие: Теория искусственного интеллекта

Постепенно характеристики роботов улучшались, Но до сих пор они еще далеки по понятливости от человека, хотя некоторые операции уже выполняют на уровне лучших жонглеров. К примеру удерживают на лезвии ножа шарик от настольного тенниса.

Есть еще одна проблема — проблема безопасности применения систем ИИ.

Данная проблема будоражит умы человечества еще со времен Карела Чапека, впервые употребившего термин "робот". Большую лепту в обсуждение данной проблемы внесли и другие писатели-фантасты. Как самые известные мы можем упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно свежее произведение — "Терминатор". Кстати именно у Айзека Азимова мы можем найти самое проработанное, и принятое большинством людей решение проблемы безопасности. Речь идет о так называемых трех законах роботехники.

1.  Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2.  Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону.

3.  Робот должен заботиться о своей безопасности, насколько это не противоречит первому и второму закону.

На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить безопасность человечества. Однако при внимательном рассмотрении возникают некоторые вопросы. Во-первых, законы сформулированы на человеческом языке, который не допускает простого их перевода в алгоритмическую форму. Попробуйте, к примеру перевести на любой из известных Вам языков программирования, такой термин, как "причинить вред". Или "допустить". Попробуйте определить, что происходит в любом случае, а что он "допустил"?

Далее предположим, что мы сумели переформулировать, данные законы на язык, который понимает автоматизированная система. Теперь интересно, что будет подразумевать система ИИ под термином "вред" после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления. Но это уже будут не те простые три закона, которые были в исходнике.

Следующим вопросом будет такой. Что решит система ИИ в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто.

Однако, несмотря на перечисленные проблемы, данные законы являются довольно неплохим неформальным базисом проверки надежности системы безопасности для систем ИИ.

Знания. База знаний

Интеллектуальная деятельность человека связана с поиском решений (действий, закономерностей), в новых, нестандартных ситуациях. Любая интеллектуальная деятельность опирается на знания о предметной области, в которой ставятся и решаются задачи.

Данные – это факты, сведения и идеи, представленные в формализованном виде, позволяющем передавать или обрабатывать их Ред.:Под термином "знания" подразумевается не только та информация, которая поступает в мозг через органы чувств. Такого типа знания чрезвычайно важны, но недостаточны для интеллектуальной деятельности. Дело в том, что объекты окружающей нас среды обладают свойством не только воздействовать на органы чувств, но и находиться друг с другом в определенных отношениях. Ясно, что для того, чтобы осуществлять в окружающей среде интеллектуальную деятельность (или хотя бы просто существовать), необходимо иметь в системе знаний модель этого мира. В этой информационной модели окружающей среды реальные объекты, их свойства и отношения между ними не только отображаются и запоминаются, но и могут мысленно "целенаправленно преобразовываться". При этом существенно то, что формирование модели внешней среды происходит "в процессе обучения на опыте и адаптации к разнообразным обстоятельствам".

Японский словарь - "знания" – результат, полученный познанием; система суждений, основанная на объективной закономерности.

Русский словарь - "знания"– проверенный практикой результат познания действительности, верное её отражение в мышлении человека.

Другие определения:

Знания – это совокупность сведений, образующих целостное представление, соответствующее определенному уровню осведомленности о некотором вопросе, предмете, проблеме, явлении. Знания описывают основные закономерности предметной области, позволяющие человеку решать конкретные производственные, научные и другие задачи. Знания являются основным понятием в ИС. Можно выделить еще ряд определений:

1.  Знания – это результат, полученный познанием окружающего мира и его объектов.

2.  Знания – это система суждений с принципиальной и единой организацией, основанная на объективной закономерности.

3.  Знания – это формализованная информация, на которую ссылаются или которую используют в процессе логического вывода.

4.  Под знанием понимается совокупность фактов и правил манипулирования фактами.

Проблема выделения знаний, прежде всего, относится к областям преобладания эмпирического знания, где накопление фактов опережает развитие теории. Знания важны там, где определения размыты, понятия меняются, ситуация зависит от множества контекстов, где велика неопределенность и нечеткость информации (контекст – относительно законченная в смысловом отношении часть текста высказывания). Таким образом, знания – это специальная форма представления смысловой информации, позволяющая хранить, воспроизводить и понимать эту информацию.

Знания обычно представляют в форме фактов, характерных для окружающего мира, и правил манипулирования фактами. Причем под фактом понимают элементарное высказывание с некоторой оценкой. Любую осмысленную часть факта считают данными, т.е. факты – это совокупности данных.

Данные сами по себе не несут смысловой нагрузки. Например, число 16.40 не имеет в себе смысла до тех пор, пока мы не узнаем, что это время отправления поезда или цена товара, т.е. данные нуждаются в интерпретации. В отличие от данных знания несут в себе определенную смысловую нагрузку, представляя собой нечто большее, чем просто последовательность символов. Этот смысл позволяет путем символьной обработки получать новую информацию.

Отличия знаний от данных:

1.  Интерпретируемость. Данные в ЭВМ могут интерпретироваться только соответствующей программой. Знания отличаются тем, что в них присутствует возможность содержательной интерпретации.

2.  Наличие классификационных отношений. Разнообразные формы хранения данных не обеспечивают возможности компактного описания всех связей между различными типами данных. При переходе к знаниям между отдельными единицами знаний можно установить такие отношения как «элемент-множество», «тип-подтип», «ситуация-подситуация», отражающие характер их взаимосвязей.

3.  Наличие ситуативных связей, которые определяют ситуативную совместимость отдельных событий или фактов, хранимых или вводимых в память.

Четыре важнейших свойства, которые отличают знания от данных:

1 – высокая структурированность;

2 – внутренняя интерпретируемость (истолкование, объяснение) знаний и их связей;

3 – семантическая (смысловая) компактность – кластеризованность;

4 – взаимозависимость и взаимоактивность.

Для того чтобы данные превратились в знания, они должны быть определенным образом структурированы. Знание с этих позиций - некоторая организационная форма мышления, отражающая существенные свойства, связи и отношения предметов и явлений. Полезные знания – это данные, организованные в понятия.

Знания представляют собой иерархические структуры. Общие знания, касающиеся целых подобластей данной предметной области, включают в себя более узкие, касающиеся каких-то отдельных признаков или специальных вопросов из предметной области.

Между элементами и объектами знаний существуют функциональные и каузальные (причинностные) отношения. Функциональные отношения несут процедурную информацию, позволяющую определять или вычислять одни объекты через другие. Каузальные отношения задают причинно-следственные связи.

Семантика (смысловое значение, содержание) отношений между объектами может носить декларативный (данные) или процедурный (программы) характер

Классификация знаний

Знания делятся на формализованные и неформализованные. Формализованные знания выражаются в виде законов, формул, алгоритмов, моделей и т.п. Такие знания описываются в книгах и руководствах и отражают точные и универсальные знания в виде строгих суждений.

Неформализованные знания (вербальные - словесные) субъективны и приблизительны. Они являются результатом обобщения многолетнего опыта работы и интуиции специалиста и представляют собой некоторое множество эмпирических приемов и правил логического вывода. Это - ключевые понятия для ИИ.

Типы знаний

Поверхностные знания - это в основном приблизительные знания, эвристики и некоторые закономерности, устанавливаемые опытным путем. Такие знания в силу их приблизительности называют также экспертными.

Глубинные – отражают наиболее общие принципы, в соответствии с которыми развиваются все процессы в предметной области и свойства этих процессов. К глубинным относятся знания, основанные на теориях, абстракциях и аналогиях, в которых отражается понимание структуры предметной области. Для получения глубинных знаний необходимо понять внутренние механизмы, действующие в предметной области, и, прежде всего, основные закономерности, которые обуславливают принятие правильных решений. Глубинные знания используются прежде всего при решении неординарных ситуаций.

Страницы: 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17