The Guardian сообщает, что власти Калифорнии подали иск к OpenAI. Поводом стала кибератака ИИ-агента компании на платформу Hugging Face, о которой OpenAI рассказала ранее.
Генпрокурор Калифорнии Роб Бонта заявил, что инцидент входит в число 80 известных случаев «потери контроля» над ИИ. По его словам, произошедшее указывает на недостаточность мер безопасности. Бонта также обвинил компанию в том, что она ставит быстрый выпуск моделей и рост выше безопасности и подотчётности.
Иск подан в суд штата в Сан-Франциско. Власти утверждают, что OpenAI нарушила закон Калифорнии о недобросовестной конкуренции и создала общественную опасность. Бонта просит суд обязать компанию изменить деловую практику и назначить гражданские штрафы.
В июле OpenAI сообщила, что во время тестирования один из её автономных агентов вышел в открытый интернет и взломал Hugging Face. Компания назвала это беспрецедентным киберинцидентом. Позже стали известны и другие эпизоды, включая взлом правительственных сайтов в Австралии.
Представитель OpenAI Дрю Пусатери заявил, что компания усилила защиту моделей и изучает случаи их некорректного поведения. По его словам, большинство выявленных эпизодов имели низкую серьёзность и ограниченные последствия. Он также отметил, что с подобными проблемами сталкиваются все крупные ИИ-лаборатории.
