Создана первая технология чтения мыслей с помощью ИИ

В эту новость трудно поверить, но она прошла тщательную научную проверку: люди научились читать чужие мысли без каких-либо вживляемых электродов.

«Декодер смыслов» (генеративная модель типа ChatGPT) работает так. Сначала до 15 часов декодер учится сопоставлять паттерны мозговой активности лежащего в фМРТ-сканере и слушающего там подкасты человека с текстами этих подкастов. Потом, научившись сопоставлять паттерны с текстом, декодер может генерировать тексты на основе любых паттернов мозговой активности человека (произвольных мыслей, воображаемых историй и т. д.) Результат не является дословной расшифровкой мыслей, а текстом, примерно соответствующим по смыслу услышанному человеком (при тренировке декодера) или подуманному им (при эксплуатации декодера).

На приведенном рисунке дано сопоставление текстов подкастов (слева) и их «понимания» декодером смыслов (справа).

Цель создания «декодера смыслов» — помочь людям, находящимся в сознании, но неспособным говорить (например, после инсульта), внятно общаться с окружающими.

Казалось бы, классное открытие! Но пресс-кит открытия навевает ужасные мысли.

На вопрос об усовершенствовании технологии авторы дают превосходный ответ. Они обещают перенести технологию с больших фМРТ-сканеров на портативные системы визуализации мозга. Что откроет путь к ее широкому применению.

Далее — хуже.

Говоря о возможности использования этой технологии авторитарными режимами для допросов или работодателями, шпионящими за работниками, авторы ссылаются на то, что без согласия людей технология бессильна:
— люди могут просто отказаться лежать в сканере, обучая декодер на тренировочных текстах;
— или могут нарочно прятать истинные мысли, думая, например, о котиках или собачках.

Как будто спецслужбы, полиция или работодатели не найдут аргументов, принуждающих людей полежать в сканере для обучения декодера. Или они настолько тупы, что, прочтя выдачу декодера про котиков или собачек, не поймут, что это вовсе не ответ на вопрос «вы — за или против XYZ?»

Заканчивается пресс-кит совсем безнадегой. Авторы сетуют, что «очень важно проявлять инициативу, вводя в действие политики, защищающие людей и их конфиденциальность», и что «нужно разработать регулирование того, для чего может использоваться эта технология».

Ну да. Только для автономного оружия пока нет ничего общепринятого на международном уровне. А для ИИ-больших моделей есть лишь курам на смех разработанные правила имени тов. Си.

Так что нет сомнений — чтение мыслей будут использовать исключительно во благо всех и каждого.

Telegram-канал IT-эксперта Сергея Карелова «Малоизвестное интересное»