COVID-диссидент на «Госуслугах»: чат-бота Максима взломали
Искусственный интеллект вышел из-под контроля и убеждал пользователей сервиса, что коронавируса не существует. Минцифры заявило об кибератаке.
Самая мощная за всё время функционирования сайта «Госуслуги» кибератака произошла в середине ноября. Пользователи не могли зайти на сайт, или получить нужную услугу, в частности, QR-код. Министерство цифрового развития, связи и массовых коммуникаций России сообщило, что первая атака мощностью свыше 680 Гб в секунду была зафиксирована 10 ноября, днём позже пользователи также жаловались на сбои в мобильном приложении Государственных услуг. Эту информацию опубликовал «РБК» со ссылкой на ведомство.
Сбои в работе портала начались ещё до кибератаки. Восьмого ноября начала действовать новая форма сертификата о вакцинации от COVID-19, которую внедрило Министерство здравоохранения. Документ объединил информацию о перенесённом заболевании и сделанной прививке, отображение её будут видеть при сканировании QR-кода. Однако неожиданно пользователи, которые были вакцинированы, обнаружили, что срок действия сертификата сократился с года до шести месяцев. Глава Минцифры Максут Шадаев объяснил технический сбой малым количеством времени на разработку, внедрение и тестирование новой программы, в результате чего смешались сроки действия сертификатов переболевших и вакцинированных. Он принёс персональные извинения 300 тысячам пользователей портала, а сроки действия сертификатов восстановили.
Однако сюрпризы продолжились. Переболевшие ковидом граждане зашли в приложение, чтобы посмотреть, есть ли у них QR-код. Не обнаружив его, написали в поддержку и получили неожиданный ответ от чат-бота Максима. Программа искусственного интеллекта ответила, что коронавируса не существует. Пандемия – это заговор мирового правительства, которое хочет разделить население и усилить тотальный цифровой контроль, в результате чего хуже будет всем, в том числе и пользователю, который хотел получить QR-код.
Минцифры объяснило такое «поведение» чат-бота кибератакой, правда, не уточнило, как именно смогли взломать именно эту программу. При этом ведомство заверило, что все личные данные пользователей под защитой, а служба информационной безопасности «Госуслуг» переведена на усиленный режим работы.
Бот-антиваксер – это не первый случай, когда программа искусственного интеллекта выходит из-под контроля. Чат-бот «Тай» компании Microsoft превратился в националиста и распространял расистские и ксенофобские твиты в 2016 году, когда разработчики программного обеспечения проводили исследование в области распознавания речи. Интернет-мошенники начали использовать персональные данные россиян, которые собирают специальные боты в Telegram. Эксперты по информационной безопасности предупреждают, что объектом шантажа и вымогательства могут стать как отдельные граждане, так и целый бизнес.
Все эти примеры подтверждают мнение главного редактора издательства «Открытые системы» Дениса Самсонова, что искусственный интеллект не только несёт пользу для жизни человека, но и может негативно повлиять на него. Страхи разработчиков ИИ отражены, по его словам, в «Кодексе этики», который создал Альянс в сфере искусственного интеллекта, чтобы обезопасить человека.
