Как перехитрить искусственный интеллект

Происходит глобальное развитие индустрии искусственного интеллекта (ИИ). Сегодня он может олицетворять чей-то голос. Startup Lyrebird утверждает, что создал технологию искусственного интеллекта, которая может синтезировать голос человека только из 60-секундного образца. 

Как после этого знать наверняка, что голосовое сообщение или разговор были именно с человеком? Amazon Alexa, Google Home и Apple Siri используют технологию распознавания голоса, и это будет продолжаться. 

По данным исследовательского отчета Grand View Research, Inc. «глубокое обучение» (один из видов машинного обучения ИИ) достигнет 10,2 млрд. долларов США к 2025 году. Однако при всех его преимуществах, даже глубокое обучение - это область роста с большим недостатком. Трудно понять, как ИИ принимает решения. 

На качество решений в области глубокого обучения также влияет человеческий когнитивный уклон и входные данные. В любой реализации должно быть ручное переопределение для защиты от нежелательных результатов. 

Например, в 2016 году Microsoft-чатбот Microsoft Tay был закрыт после того, как он стал «высказывать» расистские комментарии через несколько часов после того, как стал «жить» в Twitter. Учитывая эти уязвимые области, важно внедрить систему сдерживания и противовесов, когда речь идет о том, насколько ИИ предоставлять автономию принятия решений. 

ИИ может применяться для продвижения человечества или гнусных целей, это обоюдоострый меч, применимый к любой инновационной технологии. Настало время подумать и заранее подготовиться к потенциальным ловушкам - до того, как ИИ станет вездесущим, и только это позволит «обмануть» его.