Станет ли искусственный интеллект богом?

Очень рекомендую эссе Яна Хогарта в FT с важным и символическим названием «Мы должны замедлить гонку к богоподобному ИИ». О чем эссе — видно из названия. А самое важное — кто его автор. Ян Хогарт — компетентный в ИИ специалист и соавтор ежегодного отчета State of AI — ИМХО, лучшего из всех аналитических отчетов по ИИ. Но еще он венчурный инвестор в 50+ стартапов в области ИИ. Т.е. тот, кто, по выражению Нассима Талеба, ставит свою шкуру на кон, отвечая своими деньгами за правильность понимания технологической перспективы ИИ-систем.

Хогарт отмечает три фундаментальных момента, к сожалению, упускаемые большинством экспертов — как сторонников, так и противников замедления гонки ИИ.

1. Все сегодняшние споры вокруг больших языковых моделей в основном не имеют научного обоснования. Ибо мы находимся здесь в донаучном периоде. Мы еще не до конца понимаем, как модели работают, и не можем заранее обоснованно представить вероятные результаты их работы.

2. Мы еще не понимаем, как работает человеческий мозг. И потому решение задачи понимания, как работает эмерджентный «мозг» ИИ, будет для нас монументально сложным. Но безоглядная ИИ-гонка без решения этой задачи таит в себе катастрофические риски.

3. Надо признать, что с этого года речь идет о возможности скорого появления на Земле не какого-то туманно и противоречиво опрделяемого AGI, а о возможности появления «Богоподобного ИИ» — сверхразумного компьютера, который обучается и развивается автономно, понимает окружающую среду без необходимости наблюдения и может преобразовывать мир вокруг себя.

Два первых момента, ИМХО, не требуют ни обоснования, ни комментария. Это факты. И если кто-то не признает их, тут уж ничего не поделаешь.

Третий же момент нетривиален и требует комментария.

«И сотворил Бог человека по образу Своему, по образу Божию сотворил его…», написано в Книге Бытия Ветхого Завета 1, 1: 26; 6: 6. Даже для агностиков и атеистов (не говоря уж о верующих) эта фраза имеет глубокий смысл: уникальность человека в окружающей реальности и обладание им способностей познавать и творить практически без ограничений. Цель создания AGI — создание человекоподобного ИИ. А поскольку человек так или иначе (в религиозном или в атеистическом смысле) подобен Богу (или богу), AGI — это «Богоподобный ИИ».

Тут Хогарт абсолютно прав. Это сверхразумный компьютер, который обучается и развивается автономно, понимает окружающую среду без необходимости наблюдения и может преобразовывать мир вокруг себя.

Хогарт поясняет:

Чтобы было ясно, мы еще не здесь. Но природа технологии означает, что чрезвычайно сложно точно предсказать, когда мы доберемся до нее.

Возникает вопрос — как оценить, насколько далеки мы от цели?

Известно, что наиболее трудными для ИИ являются вовсе не вычислительные и логические задачи и даже не задачи на абстрактное мышление. Самое трудное для машин — выполнение задач сенсорного восприятия и двигательных навыков. И чем сложнее и многомерней планирование применения таких навыков, тем меньше шансов у машины повторить человека.

Получается, что вовсе не способности ChatGPT оперировать текстами, имитируя смыслы, и не способности роботов прыгать и кувыркаться должны служить тестами человекоподобности (и уж тем более богоподобности) ИИ. А, например, возможности игры на фортепьяно руками робота — сложнейшей задачи управления движением с высокой пространственной и временной точностью.

И вот вам пример:
что может самый продвинутый на сегодня робопианист

в сравнении с человеком.

Этот тест показывает: до человекоподобности (и уж тем более богоподобности) ИИ еще далековато. А ChatGPT — это всего лишь механическая пианола из Westworld.

Но это пока.

Telegram-канал IT-эксперта Сергея Карелова «Малоизвестное интересное»