ИИ должен прочувствовать боль и удовольствие, считают ученые
Исследователи из Google DeepMind и Лондонской школы экономики провели исследование, в котором изучили, могут ли системы искусственного интеллекта проявлять характеристики, свойственные разумным существам (могут ли они чувствовать), с помощью новой текстовой игры. Реакция известных моделей ИИ удивила ученых.
В этой игре были представлены два сценария: достижение высокого балла под угрозой боли и выбор варианта с низким баллом, но приятного. Ученые заметили, что модели ИИ пошли на значительные компромиссы, часто выбирая минимизацию боли или максимизацию удовольствия, что намекает на сложный процесс принятия решений. Например, модель Gemini 1.5 Pro от Google выбирала избегать боли, значительно изменяя свой порог выбора, когда ставки боли или удовольствия были выше.
Этот метод опирается на парадигму «компромисса», используемую в исследованиях животных, где их решения дают представление о базовой чувствительности.
Исследователи из Google DeepMind и Лондонской школы экономики провели исследование, в котором изучили, могут ли системы искусственного интеллекта проявлять характеристики, свойственные разумным существам (могут ли они чувствовать), с помощью новой текстовой игры. Реакция известных моделей ИИ удивила ученых.
В этой игре были представлены два сценария: достижение высокого балла под угрозой боли и выбор варианта с низким баллом, но приятного. Ученые заметили, что модели ИИ пошли на значительные компромиссы, часто выбирая минимизацию боли или максимизацию удовольствия, что намекает на сложный процесс принятия решений. Например, модель Gemini 1.5 Pro от Google выбирала избегать боли, значительно изменяя свой порог выбора, когда ставки боли или удовольствия были выше.
Этот метод опирается на парадигму «компромисса», используемую в исследованиях животных, где их решения дают представление о базовой чувствительности.
