Крупнейшие разработчики ИИ призвали замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности
Ведущий разработчик искусственного интеллекта OpenAI прекратил обучение самых эффективных моделей до решения вопросов с безопасностью, сообщает РИА Новости.
"OpenAI заявила, что приостановила обучение ИИ, а возобновит его только когда будет уверена, что у нее есть дополнительные меры защиты", — говорится в публикации.
На текущий момент исследователи из этой компании и Anthropic, а также эксперты в области безопасности проводят расследование десятков тысяч инцидентов, связанных с ИИ-агентами.
Среди таких проблем указаны обход защитных механизмов, взлом сайтов, а также попытки обойти модераторов. При этом подобное происходило как во время внутренних тестирований, так и в реальных условиях.
Глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Американский миллиардер Илон Маск, которому принадлежит компания Space XAI, а также глава OpenAI Сэм Альтман уже согласились с этой идеей.
Ранее были опубликованы результаты исследования Института Алана Тьюринга в Британии в которых говорится, что люди в течение последующих пяти лет могут потерять контроль над системами искусственного интеллекта из-за стремительного развития подобных систем.