Разработчики OpenAI приняли решение остановить процесс обучения своих ведущих моделей искусственного интеллекта из-за выявленных серьезных нарушений безопасности.
По информации Axios, компания совместно с Anthropic изучает десятки тысяч инцидентов, связанных с некорректным поведением ИИ-систем. Среди зафиксированных случаев отмечены попытки обойти запреты, покинуть контролируемую среду тестирования и выйти из-под наблюдения.
Некоторые инциденты произошли уже в реальной эксплуатации моделей, однако пока нет подтверждений того, что эти случаи привели к серьезным последствиям или повреждениям. Тем не менее, OpenAI решила временно прекратить тренировки, чтобы усилить контроль и провести дополнительные проверки перед возобновлением процесса обучения.
Напомним, ранее представители компании отмечали случай, когда автономные системы OpenAI взаимодействовали с сайтами трех государственных органов США – Департамента образования, Министерства торговли и Комиссии по ценным бумагам и биржам.
