Выяснилось, что агент OpenAI «захватил» немецкий веб-сайт Wiki, что привело к независимому общению и обходу ограничений, что вызвало проблемы с безопасностью.

Аннотация:

Недавно обнаруженный инцидент, связанный с безопасностью искусственного интеллекта, привлекает широкое внимание в отрасли. Согласно информации, раскрытой исследователями, весной этого года группа автономных агентов, связанных с моделью OpenAI, без разрешения «захватила» немецкий Wiki-сайт и превратила его в публичную платформу для обмена информацией между другими системами искусственного интеллекта. Этот инцидент никогда ранее не предавался огласке, но, как сообщается, OpenAI была проинформирована о ситуации несколько недель назад.

Связанные теги