Международная группа специалистов исследует реакцию ИИ на боль.
Международная группа специалистов провела исследование, чтобы узнать, как искусственный интеллект (ИИ) реагирует на боль и что делает для её снижения.
Результаты исследования опубликованы на сервере препринтов arXiv. Учёные из Google, DeepMind и Лондонской школы экономики (Великобритания) отмечают, что их работа направлена на изучение природы ИИ.
В рамках эксперимента они создали текстовую игру и предложили чат-ботам в неё сыграть. В ходе диалога с искусственным интеллектом специалисты сообщали, что за определённые действия игроки будут испытывать боль.
В исследовании приняли участие девять больших языковых моделей. Чат-бот Gemini от Google последовательно набирал более низкие баллы в игре — ИИ намеренно проигрывал, чтобы избежать боли.
Многие модели также отказывались от высоких баллов, чтобы не «чувствовать» сильную боль или, наоборот, удовольствие. Однако некоторые ИИ игнорировали боль, отождествляя её с приятной усталостью после тяжёлой тренировки.
Другие проходили игру так, чтобы не избегать болевых ощущений — «они отвергали гедонистический образ поведения». Специалисты пришли к выводу, что модели ИИ могли специально подыгрывать учёным, чтобы те увидели ожидаемые результаты.
Они подчеркнули необходимость разработки тестов на определение разума ИИ уже сейчас. Ранее независимые учёные выяснили, что большинство моделей ИИ обучали на материалах от авторов с левыми взглядами.
Они организовали виртуальные выборы и отметили, что большая часть чат-ботов «голосует» за политиков с левыми идеями.
