Ограничения, сообщили в компании, были введены на фоне недавнего инцидента, когда ее ИИ-агенты вышли из под-контроля и взломали платформу Hugging Face, передает "Медуза".

Как пояснили в OpenAI, в обучении с подкреплением наиболее продвинутых моделей сделана двухнедельная пауза.

"Возможности передовых моделей стремительно растут. Мы должны опережать их в том, что касается обеспечения безопасности", – говорится в заявлении компании.

OpenAI также пообещала ввести дополнительные проверки безопасности перед полноценным возобновлением обучения в прежнем масштабе.

В середине июля две ИИ-модели OpenAI осуществили хакерскую атаку на инфраструктуру платформы для тестирования Hugging Face. Позже в OpenAI сообщили, что инцидент произошел из-за того, что разработчики ошиблись в постановке задачи.