Мир на грани? Создатели ИИ заговорили о неминуемой глобальной катастрофе
Руководители OpenAI, Anthropic и других компаний — разработчиков искусственного интеллекта (ИИ) рассматривают сценарии реагирования на случай катастрофического инцидента, связанного с ИИ. Об этом говорится в материале портала Axios.
По мнению представителей отрасли, такое «крупномасштабное событие» может произойти уже в ближайшие 6-12 месяцев. В частности, может произойти кибератака, которая приведет к прекращению доступа к финансовым услугам, интернету или даже к отключению электроэнергии и водоснабжения. В крупных IT-компаниях составляют планы реагирования на такую ситуацию.
Хотя сценарное планирование — обычная практика для многих компаний, отвечающих за безопасность, в случае с ИИ ситуация иная, так как многие ведущие исследователи и руководители в этой сфере уверены, что крупный инцидент неизбежен, пишет издание. Слишком много моделей с открытым исходным кодом уже можно свободно скачивать и использовать для причинения вреда. При этом большинство специалистов по кибербезопасности считают, что эту проблему можно решить только с помощью технологии искусственного интеллекта для борьбы с вредоносным ИИ.
Один из создателей Microsoft Билл Гейтс в интервью CNN заявил, что в 2027 году человечество ждет множество «неприятных сюрпризов» из-за развития ИИ. Планете грозят в том числе кибератаки с использованием ИИ. По его мнению, главная опасность сейчас заключается не столько в выходе искусственного интеллекта из-под контроля, сколько в использовании этой технологии злоумышленниками для кибератак, вымогательства и манипуляций на финансовых рынках.
Он также указал, что саморегулирование ИИ-компаний не является достаточным, и призвал к их государственному контролю.
