Создатели ИИ готовятся к возможной катастрофе в ближайшие 6–12 месяцев

Руководители крупнейших компаний в сфере искусственного интеллекта обсуждают меры на случай масштабного кризиса, вызванного использованием новых технологий. По информации американского издания Axios, представители индустрии допускают, что серьезный инцидент может произойти уже в течение ближайших 6–12 месяцев, сообщает Offside.kz.

Источники издания, знакомые с ситуацией в OpenAI, Anthropic и других ведущих компаниях, утверждают, что разработчики рассматривают угрозы, последствия которых могут затронуть целые государства и мировую экономику.

Среди наиболее опасных сценариев называют кибератаки на критически важные объекты, применение искусственного интеллекта для разработки биологического оружия и масштабные сбои в международной финансовой системе.

Опасения связаны не с гипотетическим появлением машин, действующих против человечества, а с возможностью использования существующих и развивающихся ИИ-инструментов для причинения серьезного ущерба.

Как утверждает Axios, руководители технологических компаний уже проводят закрытые обсуждения действий на случай подобного происшествия. В центре внимания находится не только предотвращение возможных угроз, но и реакция на последствия крупного инцидента.

Представители индустрии рассматривают вероятность общественного недовольства и ужесточения государственного регулирования, вплоть до попыток ограничить использование отдельных технологий искусственного интеллекта.

Особое внимание уделяется сохранению доверия пользователей и взаимодействию с регулирующими органами после потенциального кризиса.