Охотники за багами: представители новой профессии решат проблемы на рынке труда
Городской совет Нью-Йорка делает всё, чтобы жители города не сталкивались с трудностями при поиске работы. Члены совета одобрили законопроект, согласно которому разработчики HR-алгоритмов обязаны каждый год проверять свою технологию на безопасность и делиться результатами с компаниями-клиентами, которые потребуют информацию.
Так власть пытается взять под контроль алгоритмы, связанные с трудоустройством. Искусственный интеллект будет принимать решения о найме кандидатов самостоятельно только после тщательной проверки самой системы. Если законопроект будет одобрен, США станет первой страной, которая приняла меры по борьбе с ошибками со стороны алгоритмов. Причиной стали многократные жалобы пользователей на сбои автоматизированных инструментов, которые приводили к дискриминации по расовым или этническим признакам, сообщил Forbes.
Многие компании размещают объявления, в которых гарантируют крупное денежное вознаграждение людям, которые найдут ошибки в области кибербезопасности. Иногда размер поощрения превышает десятки и даже сотни тысяч долларов. На фоне этой практики тут же открылись стартапы Bugcrowd или HackerOne, которые помогают руководителям фирм запускать программы вознаграждения, а также подыскивают толковых хакеров.
На американском рынке появился новый термин — охотник за багами. Он становится всё более популярным, ведь ошибки в алгоритмах влияют на все сферы жизни, начиная с рассмотрения заявок на кредиты и заканчивая противодействием терроризму. Ошибки в кодах зачастую появляются случайно — как правило по невнимательности разработчика. Но случаи, когда хакер намеренно допустил промах в алгоритме, также бывают. В результате ошибок ИИ будет обучаться неправильно, что приведёт к массовым сбоям в той или иной области.
В гонку за исправление багов включился и Twitter. Соцсеть запустила публичный эксперимент летом 2021 года: интернет-гигант опубликовал пост на официальной странице, в котором объявил о старте программы вознаграждения за выявление ошибки при обрезке фотографий.
Сеть была заполнена жалобами темнокожих граждан, фотографии которых алгоритм обрезал неправильно — искусственный интеллект полностью убирал лица этих людей, но в то же время корректно работал с изображениями белых пользователей. Проблема тут же обрела общественный резонанс, а издания ежедневно высказывались по поводу очередной дискриминации афроамериканцев.
Итоговый размер вознаграждения составил семь тысяч долларов, который получил анонимный охотник. Он представил доказательства ошибки алгоритма Twitter, который отдавал предпочтение стереотипным признакам красоты — интеллект считал красивыми в основном белых молодых людей с подтянутой кожей лица.
Стремительно растущая популярность новой профессии обнаружила дефицит кадров. В будущем нехватку охотников за багами могут восполнить люди из других сфер: специалисты в области оценки кредитов или врачи, которые постоянно проводят медосмотры. Эти люди ещё не разбираются в тонкостях ИИ, но их гораздо проще обучить, считают эксперты. Также в список быстро обучаемых охотников попали автолюбители. Аналитики отметили, что эта категория граждан максимально заинтересована в решении проблем систем безопасности, поэтому эти люди сами учатся программировать.
