Разработчики ИИ-компаний увольняются из-за страха "конца света"

Топ-менеджеры ИИ-компаний увольняются из-за страха перед "концом света" от нейросетей

Массовые увольнения в ведущих компаниях, занимающихся разработкой искусственного интеллекта, вызывают тревогу. Как пишет издание Axios, по меньшей мере 10 высокопоставленных сотрудников, включая ведущих инженеров и топ-менеджеров, недавно покинули свои посты. Причина их ухода кроется в серьёзных опасениях по поводу растущей мощи ИИ и его потенциала нанести непоправимый вред, вплоть до уничтожения человечества.

Что такое p(doom)?

Axios напоминает о термине p(doom), который означает вероятность того, что сверхразумный ИИ уничтожит человечество. Эта концепция активно обсуждается в сообществе разработчиков и экспертов по искусственному интеллекту.

Даже известные фигуры в мире технологий делятся своими оценками этой вероятности:

• Основатель нейросети Grok Илон Маск на своей странице в X оценил p(doom) в 20%.
• Генеральный директор Google Сундар Пичаи в подкасте у Лекса Фридмана назвал схожий диапазон — от 15% до 25%.

Угроза AGI: Сильный искусственный интеллект

Эксперты также предупреждают о скором появлении AGI (Artificial General Intelligence) — сильного искусственного интеллекта, который будет сравним с человеческим разумом и сможет универсально обучаться и решать любые задачи. Хотя точные сроки его появления неизвестны, Сундар Пичаи полагает, что это может произойти уже через 5 лет.