Исходные установки


Наша конечная цель

Нашей целью является построение компьютерной системы, обладающей универсальным (сильным) искусственным интеллектом (УИ). Такая система должна уметь решать поставленные перед ней произвольные задачи. При этом не подразумевается имитация мышления человека для, например, прохождения теста Тьюринга. Методы достижения целей, уточняющие вопросы и обоснование своих решений могут отличаться от человеческих. Однако, с точки зрения большинства носителей естественного интеллекта, поведение УИ должно проходить "тест на разумность" и быть достаточно эффективным. Так, самолёт летает быстрее птицы, но делает это по-другому.

Предполагается, что система УИ взаимодействует со средой (реальной или искусственной), достигая определённых целей в условиях ограниченности ресурсов. Она должна обладать следующими способностями:

Методы машинного обучения сами по себе не могут быть основой для построения УИ (распознать кота может и ворона, но чтобы научить компьютер это делать, необходимы более универсальные методы). Например, нейронная сеть прямого распространения обучается на данных определённого типа и не может (как и шахматная программа) работать с данными другого типа. Кроме этого она "функционирует" только при активировании входных нейронов, тогда как УИ должен быть активен всё время. Методы распознавания, кластеризации и т.п., скорее всего, будут лишь отдельными "блоками", которые УИ использует в процессе своей жизнедеятельности.

В УИ должны быть заложены некоторые сдерживающие принципы, ограничивающие поведение системы. Неизбежен конфликт таких ограничений с активностью системы и её способностью к обучению. Это отдельная и очень нетривиальная проблема.


Ограниченный мир

На первом этапе решается задача построения системы, обладающей знаниями об ограниченном мире (предметной области). Такая система должна уметь извлекать знания, делать правдоподобные логические выводы, создавать модели возможных ситуаций в условиях неполноты информации. В качестве примера предположим, что системе сообщается:

"Миледи на кухне налила яд в бокал с вином и пошла в спальню.
Там она дала бокал Констанции, которая его выпила.
"
Система должна уметь ответить на вопросы: "кто, что и где дал Констанции?" (это cравнительно просто). Чуть сложнее: "где сейчас яд?"; ещё более не тривиально: "что дальше произошло с Констанцией?", "где находится бокал?", "кто и почему убил Констанцию?". Информации для ответа на последние вопросы в описании данного "микромира" нет.

Система должна задавать уточняющие вопросы и строить варианты моделей мира, предлагая наиболее вероятный, а также его альтернативы ("бокал скорее всего в спальне; если Миледи выпив, сразу умерла и бокал из тонкого стекла, то упав на пол, он вероятно разбился").

Ограниченность мира подразумевает сравнительно небольшое число сущностей и фактов, но максимально возможную "разумность" по работе с ними (знания не в ширину, а в глубину). Система должна оперировать с базовыми пространственно-временными свойствами реального мира, причинно-следственными связями, понимать отличие живого от неживого, конкретного от абстрактного, знать что такое контейнер, инструмент, механизм и т.д. Однако к энциклопедичности знаний вначале мы не стремимся (правила бейсбола, список президентов США и т.п.). Предполагается, что при уверенном владении базовыми понятиями, расширение знаний будет происходить проще, в т.ч. в процессе обучения.

На первом этапе взаимодействие с системой происходит на формальном (лишённом неоднозначностей) языке. При достижении системой определённой разумности, построение транслятора с формального языка на естественный и обратно будет сравнительно простой задачей. Между "внутренним" формальным языком и языком естественным могут быть промежуточные этапы различной степени формальности и однозначности.