Сотрудник американской ИИ-компании уволился, чтобы предупредить мир об опасности

Фото из открытых источников

Мринанк Шарма, руководитель исследовательского подразделения Anthropic по безопасности искусственного интеллекта, ушел из фирмы и выступил с предостережением, что мир находится в опасности.

Специалист по нейросетям выступил с обращением к коллегам в открытом письме в одной из соцсетей. Его предостережение касалось, в первую очередь, опасностей, что таит искусственный интеллект. Хотя в мире немало и иных угроз, напоминает эксперт. Это ядерное и биологическое оружие, климатические перекосы, военные конфликты и экологические проблемы, и ряд других рисков.

Вскоре экс-сотрудница OpenAI Зои Хитциг, после двух лет работы в компании исследователем, в материале для The New York Times высказала опасения из-за тестов показа рекламы в чат-боте.

Хитциг поясняет, что люди доверяют чат-ботам свои страхи и тревоги в области медицины, рассказывают о проблемах в отношениях, о своих представлениях о Боге и загробной жизни. На базе этих данных разрабатывается реклама, создающая возможности для манипуляции пользователями. Причём, делается это такими методами, которые общество и даже наука пока что не может понять, а тем более, предотвратить.

Чуть ранее американский журнал Time назвал «людьми года» топовых специалистов в кластере искусственного интеллекта, таких как Илон Маск, Марк Цукерберг и Сэм Альтман.