Загадочный ChatGPT: чего опасается руководство японского SoftBank
Японский SoftBank решил обновить корпоративные регламенты информационной безопасности. Необходимость возникла с внедрением в рабочие процессы технологий искусственного интеллекта.
В частности, речь идёт о правилах применения «умных» и высокопроизводительных чат-ботов, которые повышают эффективность, но могут стать каналом утечки информации. Поэтому руководство японского банка решило разграничить бизнес-операции для новой технологии, сообщила «Российская газета».
Лицензионные соглашения большинства программ, работающих с искусственным интеллектом, содержат пункт о праве распоряжаться личными данными человека, если он пользуется сервисом бесплатно. Таким образом нейросеть дополнительно обучается, повышая качество выдаваемого результата. В таких случаях конфиденциальная информация может попасть к третьим лицам, а ответственность за утечку ложится на самого человека.
Специалисты Apple, Google, а также Гарвардского и Стэнфордского университетов провели ряд исследований в этом направлении. Результаты показали, что так называемые «атаки на извлечение данных для обучения» способны дословно восстанавливать текстовые последовательности. А в феврале 2022 года технологическая группа Fujitsu оповестила работников о юридических и этических проблемах, которые относятся к защите информации при использовании сервисов искусственного интеллекта, включая популярный ChatGPT. И сегодня многие компании экстренно обновляют правила их использования.
Самые строгие требования были введены в организациях финансового сектора Японии, которые вообще запретили сотрудникам заходить на специализированные сайты с рабочих терминалов. По мнению эксперта компании Positive Technologies Александры Мурзиной, это нормально. У бизнеса нет представления, каким образом переводчики, генераторы картинок или «умные помощники» хранят информацию, которая к ним попадает. А необходимые в работе инструменты можно развернуть и во внутренней инфраструктуре.
Возможно, что скоро на рынке появятся особые защищённые варианты. Партнёр Microsoft – компания Open AI – уже предложила на коммерческой основе программный интерфейс, позволяющий интегрировать ChatGPT в собственные сервисы. А руководство одного из подразделений Panasonic подписало соглашение с Microsoft, согласно которому их контент не будет применён к обучению языковой модели GPT3,5.
