«Цифровой Чернобыль» в 2027 году? Почему создатели ИИ предрекают нам катастрофу
В истории науки бывают моменты, когда открытием восхищаются все, но его создатели начинают испытывать настоящий ужас. Именно это сейчас происходит с искусственным интеллектом. Джеффри Хинтон, «крестный отец» современных нейросетей и лауреат Нобелевской премии, выступил с предупреждением, которое трудно игнорировать.
Аналогия с Чернобылем: почему это страшно?
Хинтон полагает, что к концу 2026 или в 2027 году мир может столкнуться с инцидентом, который станет «точкой невозврата». Он сравнивает это с аварией на Чернобыльской АЭС — событием, которое внезапно открывает глаза на реальную опасность технологии.
Представьте себе атаку ИИ на энергосистемы, которая вызывает масштабный блэкаут, или сбой в финансовых алгоритмах, который парализует мировые рынки на неделю. Это уже не сюжеты киберпанка, а расчетные риски, о которых предупреждает ученый.
Конфликт прибыли и безопасности 💰
Главная претензия Хинтона адресована руководству крупнейших ИИ-корпораций. По его мнению, жажда наживы вытеснила осторожность. В погоне за тем, чтобы первыми выпустить новую модель, компании пренебрегают глубоким тестированием. Выход один — обязательный независимый аудит каждой системы перед её релизом.
Синтез опасений: Хинтон, Гейтс, Амодеи
Если смотреть на картину в целом, прогнозы экспертов складываются в пугающую мозаику:
- Джеффри Хинтон говорит о системных сбоях в инфраструктуре (энергетика, финансы).
- Билл Гейтс предупреждает о риске гибели миллиарда человек из-за действий злоумышленников с ИИ.
- Дарио Амодеи указывает на угрозу от автономных агентов, способных нанести ущерб в сотни миллиардов долларов.
В ближайшие десять лет станет ясно, удастся ли человечеству приручить этот «цифровой огонь». В противном случае нас ждет не только технологический прогресс, но и массовая безработица, глубокое социальное неравенство и культурный кризис. Мы находимся в точке, где цена ошибки может оказаться слишком высокой.