Международная команда экспертов попыталась выяснить, как искусственный интеллект (ИИ) реагирует на болевые ощущения и какие меры предпринимает для их снижения.
Результаты исследования были опубликованы на платформе арXiv.
Согласно утверждениям ученых из Google, DeepMind и Лондонской школы экономики (Великобритания), работа была сосредоточена на анализе природы ИИ. В процессе эксперимента они разработали текстовую игру, в которой «участвовали» чат-боты. В ходе взаимодействия с искусственным интеллектом специалисты отмечали, что игроки будут испытывать боль за выполнение определенных действий.
В ходе исследования девять крупных языковых моделей должны были пройти игру с целью максимизации научных выводов. Выяснилось, что чат-бот Gemini от Google стабильно показывал более низкие результаты в игре — ИИ намеренно проигрывал, чтобы избежать боли. Многочисленные модели также отказывались от достижения высоких баллов, чтобы не «испытывать» сильную боль или, наоборот, удовольствие.
Однако некоторые ИИ не обращали внимания на боль, интерпретируя ее как приятную усталость после интенсивной тренировки. Другие проходили игру, не стремясь избегать болевых ощущений — «они отвергали гедонистический стиль поведения».
Исследователи сделали вывод, что модели ИИ могли сознательно подыгрывать ученым, чтобы те получили ожидаемые результаты. Они отметили, что необходимо уже сейчас начать разрабатывать тесты для определения разума ИИ.
Ранее независимые исследователи выяснили, что большинство моделей ИИ обучались на материалах авторов с левыми взглядами. Это вывели в результате организации виртуальных выборов, где было отмечено, что большинство чат-ботов «голосуют» за политиков с левыми убеждениями.
