Close

«Светлая» и «тёмная» стороны искусственного интеллекта: что нужно о нём знать

24 сентября в 18:20

Прежде чем рассчитывать на положительный результат от внедрения искусственного интеллекта у себя на производстве, руководителю стоит узнать, почему эта технология применяется не везде, и каково её будущее. Об этом в интервью «РБК Pro» рассказал эксперт журнала «IT-​менеджер» Антон Фишман.

Для начала стоит отметить, что нет единого понятия термина – искусственный интеллект. Глобально их делят на системы, принимающие решения и системы поддержки принятия решений. К ним ещё можно добавить системы, которые обрабатывают большие объёмы данных. Но прежде всего это технологии, которые помогают разрабатывать продукт.

Кроме того, в этот класс технологий входит много подтехнологий, например в области информационной безопасности. Всё начиналось в 2000 годах с базового построения систем, которые облегчают работу специалистов, например по анализу вирусов. В то время число вирусов и червяков настолько увеличилось, что вручную справиться было невозможно. Были придуманы системы, выявляющие паттерны в коде. Это помогало быстрее классифицировать то или иное вредоносное ПО. Сейчас искусственный интеллект анализирует огромные объёмы информации и предсказывает новые угрозы, например, атаки нулевого дня. Человек обработать такие объёмы данных в сжатые сроки просто не сможет.

Так почему же искусственный интеллект применим не везде? Например, в маркетинге модели строятся на основании законов природы и социологии, а в кибербезопасности всё иначе. В этой сфере злоумышленники знают, что компания применяет системы защиты и пытаются её обойти, скармливая роботу неверные данные. Поэтому в одном случае распространение технологии даст позитивный эффект, а в другом – никакой.

Технологии машинного разума подразделяются на полностью самообучающиеся системы, системы, которые обучаются заранее и системы, которые дообучаются. Самообучающиеся, например, сами меняют алгоритмы и совершенствуются. В корпоративных структурах они малополезны, ведь преступнику достаточно просто предоставить ему кривые данные. В результате чего анализ получится ошибочным, а вслед за ним и решение окажется неверным. Однако в системах безопасности глобального уровня, обмануть которые гораздо сложнее, такая модель интеллекта показала себя хорошо.

Стоит добавить, что помимо направления безопасности одним из самых горячих трендов искусственного интеллекта является технология нейролингвистического программирования, сокращённо NLP. К этому направлению относится всё, что касается анализа речи, её обработки и синтеза. Простыми словами – то, что помогает людям и технике общаться между собой без посредников. На основе этой технологии можно создавать цифровые продукты, например «умный» спам-​фильтр или классификатор сообщений. Можно оценивать отзывы пользователей и их запросов.

Отметим, что чат-​боты, Siri, «Алиса» и всё, что управляется голосом – создано благодаря NLP-​технологиям. На сегодняшний день NLP позволяет решать только приземлённые задачи, но всё впереди. Специалисты уверены, что именно на основе этой технологии создадут интерфейсы для взаимодействия людей и машин.

Какова же основная проблема искусственного интеллекта в сфере безопасности? По мнению Антона Фишмана, это «гонка вооружений» между «светлой» и «тёмной» сторонами, своеобразный пинг-​понг. В эпоху цифровизации новые данные об угрозах и защите от них распространяются быстро. Как только придумана новая технология защиты, злоумышленники уже знают о ней и используют новые алгоритмы уже для атаки. Очевидно, что такие возможности интеллекта дают огромные преимущества обоим лагерям.

Возможно однажды появятся глобальные модели для борьбы с мошенничеством. Специалист выразил надежду, что совсем скоро искусственный интеллект будет самостоятельно блокировать различные угрозы без помощи человека. То есть физическое наличие человека в центрах обеспечения безопасности сведётся практически к нулю – почти все функции возьмёт на себя компьютер.

Похожие новости
Инопланетяне беспокоят Пентагон: в США прошли слушания о визитах НЛО на Землю
20 мая в 12:00

Инопланетяне беспокоят Пентагон: в США прошли слушания о визитах НЛО на Землю

В Конгрессе США состоялись слушания, посвящённые неопознанным летающим объектам. За последние 20 лет насчитано более 140 подобных явлений, которым нет объяснения.

Прогресс с двойным дном: какие инновации могут стать опасными
19 мая в 16:20

Прогресс с двойным дном: какие инновации могут стать опасными

Человечество постоянно стремится к инновациям, надеясь на качественное улучшение жизни. Самыми убеждёнными сторонниками такого подхода являются учёные.

Экспрессивные и активные: как живут экстраверты
18 мая в 15:00

Экспрессивные и активные: как живут экстраверты

Ещё 100 лет назад общество стало делить личностей на интровертов и экстравертов. Увлечённые психологией люди наверняка знают, чем они отличаются и на кого похожи.

Player cover
Player cover

Плейлист

Ваш плейлист пуст

Этот сайт использует файлы cookies и сервисы сбора обезличенных данных посетителей для обеспечения работоспособности.
Продолжая пользоваться сайтом, вы автоматически соглашаетесь с использованием этих технологий.

Мы используем cookies для вашего удобства.