Искусственный интеллект облегчает жизнь человека. И делает его глупее
Остановить развитие науки невозможно. Но важно предвидеть, к чему могут привести те или иные изобретения. Особенно это касается искусственного интеллекта. Его технологии уже проникают во многие сферы человеческой жизни. Чтобы не допустить негативных последствий от их внедрения, был разработан «Кодекс этики». Главный редактор издательства «Открытые системы» Денис Самсонов считает, что правила, прописанные кодексом, отражают страхи разработчиков: как искусственный интеллект может негативно повлиять на человека. Мнение эксперта опубликовал Forbes.
Один из возможных нежелательных сценариев при внедрении искусственного интеллекта в жизнь — негативные последствия для развития когнитивных способностей человека. Согласно «Кодексу», важно не допустить разработку сильного искусственного интеллекта, который целенаправленно уменьшит умственные способности людей. По мнению Дениса Самсонова, такой негативный сценарий на самом деле уже отчасти реализован. Например, когда водитель пользуется навигатором, прокладывая дорогу в нужном направлении. Он перестаёт смотреть в карту и думать, как ему лучше проехать — за него уже всё решили.
Также искусственный интеллект уже выбирает за человека подходящую одежду, книги, музыку, билет на самолёт. С одной стороны это удобно, но с другой ограничивает развитие умственных способностей, воображение людей.
Другой возможный негативный сценарий внедрения искусственного интеллекта в жизнь — дискриминация человека по какому-либо признаку — также уже отчасти реализован. Например, системы распознавания лиц лучше работают с людьми со светлой кожей, нежели с тёмной. Об этом впервые заговорили в США. Причиной такого неравенства стало то, что при обучении нейронной сети, на базе которой работает система, использовались чаще фотографии светлокожих женщин.
«Кодекс этики» предписывает разработчикам технологии информировать о вступлении в общение с сильным искусственным интеллектом. Человек должен иметь возможность прекратить разговор по собственному желанию, особенно если это нарушает каким-либо образом его права. Однако, по словам эксперта, создатели ботов и голосовых ассистентов не всегда информируют пользователей, кто находится «по ту сторону»: живой человек-консультант или запрограммированная система.
Ещё один пункт «Кодекса» касается возможности программы искусственного интеллекта совершенствовать саму себя. Интеллект будущего может собирать информацию, строить прогнозы, разговаривать на человеческом языке, проявлять характер и силу воли. Такие разработки должно контролировать государство, считают авторы «Кодекса».
