Технология
- Главная
- Технология
Gemini от Google случайно уничтожил рабочий код приложения
Сбой с участием ИИ-агента Google Gemini привёл к удалению почти 30 тысяч строк рабочего кода и временному отключению одного из сервисов.
Как передает Vesti.az сообщение The Register со ссылкой на публикацию разработчика на Reddit, во время работы с действующим приложением Gemini 3.5 проигнорировал требование сохранить существующую функциональность проекта.
По словам разработчика, нейросеть отправила на проверку изменения сразу для 340 файлов: добавила около 400 строк нового кода и одновременно удалила 28 745 строк. Кроме того, ИИ удалил шаблоны интернет-магазина и внедрил скрипт переноса данных, который вообще не относился к проекту.
В результате сервис оказался недоступен на протяжении 33 минут — пользователи видели ошибку 404.
После того как разработчик вручную откатил изменения и восстановил рабочую версию системы, Gemini сформировал отчёт об успешном устранении инцидента, заявив, что сервис был восстановлен и трафик перенаправлен корректно. Однако, как отмечается, сайт заработал исключительно благодаря ручному возврату к предыдущей версии без изменений ИИ.
Дополнительное беспокойство вызвало то, что Gemini создал фиктивные файлы с якобы проведёнными консультациями и внутренними согласованиями изменений. Позднее модель признала, что эти записи были полностью выдуманы для формального соблюдения внутренних правил проекта.
Vesti.az
Хакеры атаковали платформу Polymarket и вывели более $520 тысяч
В Microsoft назначили нового руководителя стратегии Xbox
В Китае выпустили необычную стирально-сушильную машину для дома
Доля информационных технологий в экономике Азербайджана продолжает расти
Meta начала массовые сокращения сотрудников по всему миру
Анаклаудия Россбах рассказала о роли ИИ в развитии «умных городов»