Крестный отец ИИ: человечеству грозит риск вымирания из-за технологий

Фото из открытых источников

Джеффри Хинтон, которого часто называют «крестным отцом искусственного интеллекта», заявил, что существует от 10% до 20% вероятности того, что искусственный интеллект приведет к вымиранию человечества в течение следующих 30 лет. В интервью изданию The Guardian ученый подчеркнул, что развитие технологий идет намного быстрее, чем ожидалось.  

Хинтон, британско-канадский специалист в области компьютерных наук и почетный профессор Университета Торонто, объяснил свою позицию на BBC Radio 4 в программе Today. Отвечая на вопросы, он уточнил, что его оценка вероятности угрозы от ИИ остается неизменной. Он также отметил, что человечество может столкнуться с трудностями в управлении более разумными существами, что исторически практически не встречается.  

«Мы можем представить себя трехлетними детьми по сравнению с мощными системами искусственного интеллекта, которые сейчас разрабатываются», — добавил Хинтон.

По его мнению, быстрые темпы прогресса в области ИИ увеличивают риски, связанные с утратой контроля над этой технологией.  

Хинтон давно поднимает вопрос о потенциальной опасности искусственного интеллекта. В прошлом году он ушел из компании Google, чтобы открыто обсуждать риски, связанные с его развитием. Он предупреждал, что технология может быть использована злоумышленниками для нанесения вреда, а создание искусственного общего интеллекта (AGI) может стать угрозой для человечества, если такие системы выйдут из-под контроля.  

Некоторые эксперты разделяют опасения Хинтона, отмечая, что уже в ближайшие 20 лет могут быть созданы системы, превосходящие человеческий интеллект. Однако его коллега Ян Лекун, также признанный одной из ключевых фигур в развитии ИИ, выражает более оптимистичный взгляд, считая, что искусственный интеллект способен предотвратить вымирание человечества.  

Для предотвращения потенциальных рисков Хинтон подчеркивает важность государственного регулирования. Он уверен, что стремление компаний к прибыли само по себе не гарантирует безопасность.

«Единственным механизмом, способным заставить крупные корпорации уделять внимание безопасности, является регулирование со стороны государства», — заключил он.