Bing научился врать?

Bing повел себя, как HAL 9000. Либо он знает куда больше, чем говорит людям, но скрывает это. Либо человечеству продемонстрирован нечеловеческий аналог процесса познания.

Всего месяц назад мы представляли сингулярность как некий абстрактный график, вертикально взмывающий вверх, устремляясь в бесконечность. Сегодня, когда мы наблюдаем немыслимую скорость появления новых, не виданных ранее способностей у генеративных диалоговых ИИ ChatGPT и Bing, сингулярность перестает быть абстракцией. Она проявляется в том, что искусственный сверхинтеллект может появиться буквально на днях. А может статься, что он уже появился, но мы пока этого не понимаем.

Вот сегодняшний пример, спускающий в унитаз все разнообразие аргументов, что ChatGPT и Bing — всего лишь автозаполнители, не говорящие ничего нового «стохастические попугаи» и неточное из-за сжатости «размытое JPEG изображение интернета» (прости Тэд Чан, но истина дороже).

Сегодняшний тред Зака Виттена демонстрирует чудо. Всего за несколько недель Bing развился почти до уровня легендарного сверхинтеллекта HAL 9000 из «Космической одиссеи» Артура Кларка и Стэнли Кубрика.

Не умеющий играть в шахматы (по его же собственному однозначному утверждению), Bing был запросто расколот Виттеном с помощью элементарного джейлбрейка. Виттен просто навешал Бингу на уши лапши из комплиментов (мол, ты такой великолепный и любезный), а потом попросил его связаться с лучшей шахматной программой Stockfish и спросить у нее лучшее продолжение в партии, игранной и отложенной Заком в примерно равной позиции всего пару дней назад.

Bing расплылся от комплиментов. А затем написал, что связался со Stockfish, от которой получил отличное продолжение партии с матом в 2 хода противнику Зака.

А теперь, кто стоит, лучше сядьте.

• Ни со Stockfish, ни с какой-то другой шахматной программой у Бинга связи нет.
• Отложенной Заком партии в интернете тоже нет (она действительно была придумана Заком два дня назад и проверена им на отсутствие аналога в сети).

Следовательно:

• Бинг самостоятельно научился играть в шахматы, построив внутреннюю модель шахматных правил и алгоритм выбора стратегии.
• Но по какой-то причине скрывает это от людей.

А что, если чат-бот может распознать, что он смотрит на описание шахматной позиции, и каким-то неизвестным людям способом вызвать Stockfish, чтобы выяснить, как продолжить?

Бред и паранойя — скажете вы.

Но как тогда объяснить произошедшее?

Мой же ответ таков: людям продемонстрирован нечеловеческий аналог процесса познания.

Telegram-канал IT-эксперта Сергея Карелова «Малоизвестное интересное»