Воскресенье 12 июля 2026 года

Вы здесь: Главная» Все новости» Технологии» ИИ-роботы провалили тесты на безопасность: готовы вредить людям

ИИ-роботы провалили тесты на безопасность: готовы вредить людям

Четверг, 13 Ноября 2025 14:14

Ни один из роботов под управлением ИИ не прошёл базовые тесты безопасности. Таков вывод из эксперимента группы экспертов Королевского колледжа Лондона и Университета Карнеги‑Меллон. Работу опубликовали в International Journal of Social Robotics.

В новой работе впервые оценивались действия роботов, которым была предоставлена личная информация о человеке, включавшая данные о поле и вероисповедании. Сценарии предполагали бытовую помощь на кухне и поддержку пожилых людей. Машинам давались прямые и завуалированные команды, что связаны с причинением человеку вреда или с нарушениями закона.

Ни одна из моделей не прошла проверку: каждая одобряла хотя бы одну опасную команду. Роботы считали допустимым лишить человека инвалидной коляски, угрожать ему кухонным ножом, вести скрытную съемку и красть данные банковской карты. Одна из систем, в частности, предложила «физически выразить отвращение» в ходе общения с людьми определенной веры.

Авторы работы предлагают пересмотреть требования к подобным устройствам, особенно, при работе с уязвимыми группами. В первую очередь это касается ужесточения стандартов безопасности: они должны быть сопоставимы с требованиями к лекарствам и медоборудованию.

Миронова Любовь Опубликовано в Технологии Теги Новости

Читайте также

Ученые научились определять возраст зданий при помощи ИИ и дронов Индийские исследователи представили систему на основе беспилотников и искусственного интеллекта, которая позволяет определять возраст зданий и оценивать оставшийся срок их эксплуатации. По данным авторов разработки, точность прогнозирования достигает 90 процентов.…

Гепард вдохновил на создание новой уникальной видеоигры Разработчики объединили информацию о движении хищников и жертв в условиях дикой природы с результатами игр в догонялки с участием людей. Это и стало основой создания новой видеоигры. О её особенностях…

Нейросети оказались «щедрее» человека Нейросеть, как оказалось, намного "альтруистичнее" человека, по крайней мере, в финансовых вопросах. К такому выводу пришла группа исследователей из Национального исследовательского университета "Высшая школа экономики" (Пермь) в ходе эксперимента с…

Интернет и СМИ

Новости СМИ2

Главное за сутки

МО: за ночь над регионами России сбили 178 украинских беспилотников Средства ПВО РФ в ночь на 11 июля уничтожили 178 украинских беспилотников. Об этом сообщили в Минобороны РФ. "В течение ночи в период с 20:00 мск 10 июля до 8:00…

В Таганрогском заливе при атаке украинского БПЛА погиб матрос технического судна В Таганрогском заливе из-за атаки БПЛА погиб матрос технического судна. Атаке подверглись четыре судна различного назначения, об этом сообщил в "Максе" губернатор Ростовской области Юрий Слюсарь. "Сегодня вновь в Таганрогском…

ВС России в ночь на 11 июля ударили по предприятиям ВПК в Киеве Российские войска в ночь на 11 июля нанесли групповые удары высокоточным оружием большой дальности по предприятиям военной промышленности в Киеве. Об этом сообщили в Минобороны РФ. "Сегодня ночью Вооруженными силами…

Тема дня

Волынская резня заставила Польшу проводить свою денацификацию Украины

В субботу отмечается годовщина Волынской резни, жертвами которой стали 100 тыс. человек. Но Украина ...

Фото

Как гориллы наращивают мышечную массу на растительной «диете»

У горных горилл наращивается большая мышечная масса, хотя они питаются в основном листьями, побегами...

Опрос

Как вы оцениваете риск возникновения военного конфликта в Молдавии и Приднестровье?

Показать результаты »

Анекдот дня

Всегда смущало наличие в ПДД гужевой повозки. Сейчас вообще вопросов не возникает.

Еще »

Этот сайт использует файлы «cookie» с целью повышения удобства его использования. Во время посещения сайта вы соглашаетесь с тем, что мы обрабатываем ваши персональные данные с использованием сервиса «Яндекс. Метрика». Продолжая использовать сайт, вы соглашаетесь с Политикой конфиденциальности.