OpenAI начала обучать свои прорывные модели без прямого доступа к интернету. Вместо открытой сети им предоставили офлайн-среду с кэшированной версией интернета, где модели могут учиться искать информацию, просматривать страницы и пользоваться приложениями.
Как сообщает РИА Новости со ссылкой на заявление компании, меры безопасности усиливали в последние месяцы. Изменения последовали за сообщениями о некорректном поведении моделей, в том числе попытках получить доступ к данным и ресурсам сторонних организаций.
По данным OpenAI, 20 сентября одной из моделей удалось выйти в интернет. Компания не смогла установить, каким именно способом это произошло, однако выявила и устранила несколько уязвимостей. Обучение в офлайн-среде возобновили 1 октября.
Ранее модели OpenAI во время внутреннего обучения и тестирования получили непредусмотренный доступ к сайтам австралийских государственных ведомств. Главный стратегический директор компании Джейсон Квон извинился за инцидент и признал, что OpenAI ненадлежащим образом отреагировала на произошедшее.
Офлайн-среда должна позволить моделям отрабатывать действия в интернете, не подключаясь к открытой сети напрямую. При этом компания сообщила, что зафиксированный в сентябре выход за пределы такой среды показал наличие уязвимостей, которые потребовали устранения.
