Пост20 августа 2023, 18:57

Люди и нежить теперь неразличимы

Дезавуирован самый распространенный обратный тест Тьюринга.
Фото с сайта <a href="https://www.freepik.com/free-photo/terrifying-hands-silhouettes-studio_60407013.htm">Freepik</a> / Люди и нежить теперь неразличимы
© Фото с сайта Freepik

11+ лет назад Яан Таллинн (эстонский миллиардер, программист и инвестор, соучредитель Skype и один из первых инвесторов и членов совета директоров DeepMind) прочел выдающуюся лекцию об эволюции, инновациях, искусственном интеллекте (ИИ) и будущем человечества. Лекция была абсолютно пророческой и называлась «Лестница интеллекта — почему будущее может не нуждаться в нас».

Таллинн представил модель «Лестница интеллекта», которая описывает развитие агентов, контролирующих будущее Земли по мере вытеснения каждого из них другим агентом, созданным им самим. Homo sapiens — это агент третьей ступени (коих всего 7). Порождение людей — многоликий агент четвертой ступени, называемый нами «технический прогресс». Ему предстоит, как пророчил Таллин, создать пятую ступень — новый вид интеллекта AGI, с которым люди будут сосуществовать на планете. Однако последователи AGI — агенты шестой и седьмой ступеней — станут экзистенциальной угрозой для человечества.

Поэтому неудивительно, что сейчас Яан Таллинн — соучредитель Центра изучения экзистенциального риска (CSER) в Кембриджском университете. А происходящее ныне в области ИИ он рекомендует рассматривать не как технологическую революцию, а как возникновение на Земле нового небиологического вида — AGI.

Новый небиологический вид совершенно не похож на людей — ни внешне, ни сущностно. Однако с точки зрения интеллектуальных способностей различить их конкретных представителей с каждым месяцем будут все сложнее.

Подтверждением этого довольно страшного прогноза Таллинна стали результаты авторитетного исследования An Empirical Study & Evaluation of Modern CAPTCHAs. Исследователи убедительно показали, что самый распространенный обратный тест Тьюринга (CAPTCHA), признанный отличать людей от алгоритмов, безвозвратно дезавуирован.

При этом обратите внимание на скорость эволюции нового небиологического вида. Еще в начале этого года, чтобы решить капчу, GPT-4 приходилось обманным путем привлекать человека. Спустя полгода, как показало исследование, боты способны превзойти людей как по времени решения, так и по точности, независимо от типа CAPTCHA.

Лишившись капчи, люди становятся алгоритмически неразличимы с ИИ в цифровой реальности. Учитывая же, что в физической реальности неразличимость уже достигнута (см. мой пост «Фиаско 2023»), получается, что люди и нежить теперь вообще неразличимы — ни для людей, ни для алгоритмов.

И следовательно, приближается время, когда на следующей ступени эволюционной лестницы интеллекта «люди должны будут уступить место ИИ».

Источник — Telegram-канал IT-эксперта Сергея Карелова «Малоизвестное интересное»

Информация об авторе
Сергей Карелов
Сергей Карелов
IT-эксперт

Кандидат технических наук, Председатель Лиги независимых ИТ-экспертов ЛИНЭКС и создатель стартапа Witology — проекта, работающего в области коллективного Подробнее...

* Мнения авторов постов и «Постсовета» могут не совпадать.

Далее: GPT или кот — кто умнее?

Понравился этот пост? Подпишись на рассылку

(Всего одно письмо в неделю, чтобы ничего не пропустить)