Темная сторона ИИ: чем грозит бесконтрольное развитие искусственного интеллекта

Сначала кажется, что это классно. Жизнь станет проще: у детей появятся игрушки-компаньоны и роботы-няни, способные за ними присмотреть, роботизированные комплексы выполнят монотонные операции в цехах, учитель-бот подготовит индивидуальную программу для школьника, бот-диетолог подберет систему питания, рассчитает калории, водитель-бот отвезет куда нужно. Удобно, быстро, эффективно. 

Но если копнуть глубже… Что будет с людьми, работу которых заменит искусственный интеллект? Вариант один – переучиваться. Но так ли необходимо доверять образование, транспорт и другие сферы искусственному интеллекту? 

Сегодня искусственный интеллект – милый помощник. А завтра? Что, если его запрограммируют на агрессию? Когда машины станут умнее нас, страшно представить, что они надумают. Может, решат, что человечество – это ошибка, планетарный вред, и начнут нас истреблять? Искусственный интеллект сделает вывод, что мы наносим непоправимый экологический ущерб планете, и, чтобы спасти ее от людей… Похоже на сюжет фантастического произведения, но ученые всерьез задумываются о рисках, связанных с развитием и бесконтрольным применением искусственного интеллекта, а исследовательские лаборатории по всему миру стремятся получить над ним власть.

OpenAI и Anthropic, которые базируются в Сан-Франциско, привлекают миллиарды долларов инвестиций для создания общего искусственного интеллекта уровня человека – AGI. Прогнозируется, что AGI появится в течение двух лет, а максимум нескольких десятилетий. Полностью опередить человека в развитии компьютер сможет в течение 20 лет, полагает нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта». 

Марк Цукерберг вкладывает миллиарды долларов в наем ИИ-специалистов и создание отдельной «лаборатории суперинтеллекта». О том, что Цукерберг лично набирает команду для создания «сверхразума», сообщает российский РБК со ссылкой на Bloomberg.

Знаменитую фразу Натана Ротшильда «Кто владеет информацией – тот владеет миром» пора перефразировать – «миром владеет тот, кто владеет искусственным интеллектом». Похоже, в эту мысль, как в некое божество, верят все, кто стремится во что бы то ни стало создать «сверхразум». 

Но ведь нельзя просто так взять и выпустить в мир технологию, которая может изменить всё. Важно понимать, что мы создаем. Иначе вместо прекрасного будущего получим мир, в котором машины решают за нас, а мы лишь наблюдаем со стороны. Какую реальность мы строим своими руками, используя искусственный интеллект в повседневности, – вопрос этот нужно задавать себе каждый день. Это как лакмусовая бумажка, которая показывает нам одновременно и ослепительные перспективы, и настораживающие риски. 

Главный из них – потеря контроля. Развитие автономных систем искусственного интеллекта, способных принимать решения без участия человека, создает угрозу утраты контроля над критически важными процессами, такими как управление оружием, над финансовыми рынками и системами безопасности. Сейчас мы программируем машины, но что будет, когда они начнут программировать себя? Что, если искусственный интеллект, стремясь к заданной цели, выйдет за рамки, установленные человеком? 

Другой риск – предвзятость алгоритмов. Машины учатся на данных, а данные создают люди, со всеми своими предубеждениями и стереотипами. Нужно быть очень внимательными к тому, на чем обучаются системы. Боты могут быть использованы для злонамеренных целей, таких как создание фейковых новостей, манипулирование общественным мнением, кибератаки. 

Конечно, искусственный интеллект – это огромный потенциал для развития науки, медицины, экономики. Но, чтобы эта технология работала на нас, а не против нас, нужно просчитывать действия на несколько шагов вперед. Уже сейчас разрабатывать этические нормы для применения роботов, искусственного интеллекта, контролировать их развитие. 

И конечно, нельзя забывать о моральной стороне вопроса. Должны ли у искусственного интеллекта быть права? Кто будет нести ответственность за его действия? Эти вопросы требуют не только технического, но и философского осмысления. 

Китайско-американский ученый ФейФей Ли, известная пионерскими работами в области компьютерного зрения, пространственного искусcтвенного интеллекта, убеждена, что часть машин совсем скоро вытеснит человеческий интеллект в отдельных сферах. «Сколько из нас могут распознать 22 тысячи объектов в мире? Сколько людей могут переводить со 100 языков?» – риторические вопросы ФейФей Ли. И вместе с тем она настроена оптимистично: «Машинный интеллект способен на многое, но человеческий интеллект всегда будет играть решающую роль в нашем человеческом обществе». 

И с этим хотелось бы согласиться. Инвестиции в образование и переквалификацию кадров позволят подготовить людей к новым профессиям, требующим навыков работы с искусственным интеллектом. Разработка эффективных механизмов регулирования и надзора за применением новых технологий будет способствовать снижению злоупотребления искусственным интеллектом. Развитие международного сотрудничества поможет обеспечить согласованность усилий по его применению в интересах всего человечества. 

Почтальон Печкин из мультфильма «Зима в Простоквашино» говорил: «Вашу маму и там, и тут показывают. До чего техника дошла!» Но главное, чтобы мы вместе с техникой не ушли в бездушный мир одних только технологий и с развитием материальных благ цивилизации не утратили ее культурную основу.