GPT или кот — кто умнее?

Почти за год до появления на свет ChatGPT я поставил вопрос: как людям преодолеть свой спесишизм (моральный антропоцентризм по отношению к нелюдям)? А спустя менее года мы уже оказались в мире, где, помимо людей, существует пара десятков высокоинтеллектуальных сущностей — больших языковых моделей (LLM).

Спесишизм, дискриминирующий представителей других видов на основании якобы человеческого превосходства в разуме, сознании, познании и т. д.  —  фундаментальное свойство людей. Это не просто вшитый в сознание «софтвер», а часть нашего неизменимого «хардвера», который не перепрограммировать и не перепрошить.

Многие десятилетия даже в научном мейнстриме царило представление, что человек — венец творения, несопоставимый по своему разуму и наличию сознания ни с одним другим видом. Лишь относительно недавно среди исследователей стала громче звучать противоположная точка зрения.

• Что люди — вовсе не венец творения.

• Что разум видов, эволюционировавших в разной среде обитания (на земле, в воде и в воздухе), устроен сильно по-разному.

• И что сравнение с позиций антропоморфизма различных типов разума даже у видов, обитающих в одной среде (например, людей и котов), весьма условно и малопродуктивно. Ибо с точки зрения эволюционного превосходства шансы котов выжить на необитаемом острове явно выше, чем у Робинзона Крузо.

И вот опять, с появлением иного типа разума, обитающего в цифровой среде, люди наступают на грабли спесишизма. Ведь отличие этого типа разума (а также наличие у него сознания в человеческом понимании) в силу его нематериальности (невоплощенности) и непонятного для нас способа формирования модели окружающего мира (при отсутствии какого-либо собственного чувственного опыта) должно быть куда больше, чем у людей и любых видов животных (обитающих в материальной, а не в цифрой среде).

Идеальным примером очередного наступания на грабли спесишизма стала опубликованная вчера Романом Ямпольским визуализация логики расхождений во мнениях среди ИИ-специалистов по вопросам экзистенциальных рисков ИИ для человечества.

Первый же вопрос определяет развилку в оценках, станет ли ИИ smarter (разумней, умнее, интеллектуальней…) людей. И дальше в том же духе — попытки универсальной человеческой линейкой измерить вероятность «попыток ИИ превзойти людей» и «успешность таких попыток».

Постановка подобных вопросов ведет в никуда.

Мы не умнее LLM. И они, даже при достижении ими сверхчеловеческого уровня каких-либо умений, не будут умнее нас. Разум LLM совсем-совсем иной. А еще точнее будет вообще не использовать по отношению к ним человекоориентированные понятия, типа разума и сознания.

Также стоит не забывать и о наших меньших и больших братьях. Ибо и они — коты и дельфины, слоны и вороны… — тоже ни в чем нам не уступают с эволюционной точки зрения. А во многом и превосходят.

Источник — Telegram-канал IT-эксперта Сергея Карелова «Малоизвестное интересное»