Управление перспективных исследовательских проектов Министерства обороны США (DARPA) совместно с Институтом искусственного интеллекта Пола Аллена (Allen Institute for Artificial Intelligence, AI2) планирует научить искусственный интеллект здравому смыслу. Речь идет о проекте Machine Common Sense, который направлен на решение двух основных задач: понимание, что означает «здравый смысл» применительно к ИИ, а также обучение машины этому интуитивному качеству.
По словам Дэйва Ганнинга, сотрудника DARPA, весьма забавно, что искусственный интеллект может распознавать объекты в считанные доли секунды, имитировать человеческие голоса и рекомендовать новую музыку, однако при этом ему недостает банального понимания рутинных операций — другими словами, здравого смысла. В результате, разработчикам ИИ приходится полностью описывать для него все возможные ситуации, «накачивая» машину громадными наборами данных. Это ограничение является одной из крупнейших проблем искусственного разума современности.
«Отсутствие здравого смысла зачастую не позволяет искусственному интеллекту понимать мир, учиться и действовать в незнакомых ситуациях, исходя из опыта, в отличие от людей, которые не просто оперируют набором фактов, но и строят связи между объектами на основе увиденного ранее, — говорит Ганнинг. — Именно это ограничение не позволяет нам перейти от узкоориентированных алгоритмов, существующих сегодня, ко всеобъемлющим, многозадачным ИИ, описанным в научной фантастике».
Исправить эту ситуацию вознамерились исследователи DARPA, предложив использовать особые вычислительные модели, имитирующие психологическое развития человека, чтобы научить машину ориентироваться в реальном мире и сформировать собственный опыт.
По словам главы AI2 Орена Этциони, основная задача, которая стояла перед учеными, заключалась в создании метода эмпирического измерения здравого смысла. Исследовали решили эту проблему, взяв в качестве модели обучения набор ситуаций с несколькими вариантами развития — в процессе обучения машина должна научиться отсеивать неправильные с точки зрения здравого смысла решения.
Например, искусственному интеллекту дается фраза «Женщина сидит за пианино» и четыре варианта ответа:
- Она сидит на скамейке и смотрит, как ее сестра играет с куклой.
- Она улыбается кому-то, слушая музыку.
- Она наблюдает за танцорами.
- Она кладет пальцы на клавиши.
- Для человека очевидно, что верный ответ — последний.
Но лучшие нейросети правильно отвечают только в 60% случаев.
На основе подобных задач исследователи и хотят обучить машину, сформировав у нее опыт, по которому она будет распознавать незнакомые ситуации в дальнейшем. Как сообщается, в первом наборе данных уже есть 113 тысяч вопросов, всего до конца года будет разработано еще минимум четыре аналогичных сета.
«Здравый смысл остается святым Граалем для разработчиков искусственного интеллекта в течение уже более 35 лет, — говорит Этциони. — Проблема заключается в том, что это понятие тяжело поставить на эмпирическую основу — но как мы можем «привить» здравый смысл машине, если не знаем, как его оценивать?
Наши исследования, проведенные совместно с DARPA, являются, вероятно, первыми в своем роде, в которых здравый смысл удалось измерить»