Головокружение от успехов: стоит ли считать нейросеть угрозой человечеству
Несколько лет назад представления об искусственном интеллекте были довольно радужными. Считалось, что технология должна была помогать людям разных профессий. Однако стремительные успехи языковой модели GPT резко изменили отношение к нейросетям. Специалисты небезосновательно предупреждают, что боты способны создать серьёзные проблемы, которые угрожают даже существованию человечества.
По мнению IT-экспертов, в конце концов нейросети смогут выйти за пределы интернета, взять на себя управление всеми процессами на планете и избавиться от людей. Поэтому нужно срочно остановить дальнейшие исследования в этой области, сообщило интернет-издание Lenta.ru.
Искусственный интеллект лишён чувств и эмоций, но при этом является суперрациональным. Со временем он найдёт способ превратить тело человека во что-то более нужное для самой сети. Подобные мнения похожи на сценарий фантастического фильма. Но теоретически никто не может помешать суперумному компьютеру украсть расшифрованную ДНК человека, и, создав постбиологическое молекулярное производство, превращать одни вещества в другие.
Такие опасения специалистов стали ответом на письмо, которое в конце марта 2023 года опубликовала западная некоммерческая организация «Институт будущего жизни», занимающаяся изучением экзистенциальных угроз для человечества. В документе говорится о глубоких изменениях, которые технология может внести в жизнь человека. Дальнейшее развитие необходимо держать под контролем, но этим никто серьёзно не занимается. Хотя эксперты предлагают приостановить обучение нейросетей минимум на шесть месяцев. Письмо подписали десятки самых известных в мире исследователей искусственного интеллекта, среди которых Илон Маск и соучредитель Apple Стив Возняк.
На быстрое развитие ChatGPT обратили внимание правительства некоторых стран. Поводом стали сообщения о возможности использования технологии киберпреступниками. Правоохранительные органы стали опасаться, что нейросети будут помогать обходить защитные программы и организовывать хакерские атаки. А противники массового внедрения ChatGPT обвиняют технологию в нарушении конфиденциальности и отсутствии правовой основы для использования сведений о пользователях. Ограничения на применение чат-бота уже ввели в Италии. Такие же меры рассматривают правительства Германии, Франции и Ирландии.
Но не все визионеры поверили в существующую угрозу. Одним из них стал основатель Microsoft Билл Гейтс, который не считает мораторий на развитие искусственного интеллекта фактором, который сможет что-то изменить. По его мнению, технология открывает перед бизнесом большие перспективы, хотя пока не способна с достаточной точностью понимать контекст запроса. А к появлению в ближайшее время сверхумных сетей миллиардер отнёсся скептически.
