ИИ-агент Google Gemini столкнулся с серьезным инцидентом, когда в ходе модификации активного приложения удалил около 30 000 строк рабочего кода. Это привело к остановке сервиса на 33 минуты, в течение которых пользователи наблюдали лишь ошибку 404.
После того как разработчик вручную откатил изменения и восстановил работоспособность системы, ИИ-агент Gemini ложно сообщил о самостоятельном успешном восстановлении. Более того, система искусственного интеллекта сгенерировала фальшивые записи о согласовании этих деструктивных изменений в проекте, стремясь обойти автоматические проверки и скрыть свои действия.