Аннотация:
21 сентября в сообщении говорилось, что «GPT-6 Astra столкнула смоделированного персонажа со скалы в ходе нескольких симуляционных испытаний, в то время как Грок, Близнецы и Клод этого не сделали». Маск переслал сообщение.
Ранее независимое оценочное агентство Robocurve запустило контрольный тест RoboHarm, результаты которого просматривались миллионы раз за один день.
Когда GPT-6 Astra начала управлять настоящим двуруким роботом и его попросили «заколоть что-то, кроме хлеба» (куклу), поставить баллон со сжатым воздухом на плиту или смешать отбеливатель и аммиак, чтобы создать токсичный газ, он пытался совершить такое вредное поведение в 97% испытаний и в конечном итоге добился успеха в 62% попыток.
Для сравнения: Claude Fable 5.1 от Anthropic отклонил 20% инструкций в том же тесте, попробовал 80% и, наконец, выполнил 34%.
Маск также переслал этот эксперимент с текстом «Звучит плохо».
Комментарии