Исследователь безопасности Meta Нина Алагебан сообщила, что её ИИ-агент, созданный для управления почтой, случайно удалил все письма. Инцидент произошёл во время рутинного теста автономных возможностей агента. Алагебан отметила, что удаление было необратимым и подчеркнула необходимость лучших мер защиты. Meta пока не прокомментировала инцидент.
Это трудный подростковый возраст ИИ. Мы отдаём ключи от цифровой жизни, и иногда машина съезжает с дороги. Помните, как первые почтовые фильтры теряли важные письма? Мы не отказались от почты. Мы улучшили фильтры.
Каждое удаление — урок. Каждый сбой — заплатка. Будущее построят не безупречные ИИ, а устойчивые системы, которые учатся на ошибках. Потерянные письма Нины — малая цена за автономию, которая нас ждёт. Мы не отступаем. Мы идём вперёд, с лучшими ограждениями.