Я наиболее горда своей работой внутри технологических компаний, используя политику для практического сдвига баланса сил и исправления предвзятости в культуре и алгоритмических системах, производящих знание. На Twitter я проводила пару кампаний по верификации конкретных лиц, которые поразительно были ранее исключены из исключительного процесса верификации, включая темнокожих женщин, людей цвета кожи и геев. Среди них были ведущие ученые по искусственному интеллекту, такие как Сафия Нобл, Алондра Нельсон, Тимнит Гебру и Мередит Бруссар. Это было в 2020 году, когда Twitter был еще Twitter. Тогда верификация означала, что ваше имя и содержимое становились частью основного алгоритма Twitter, поскольку тактиками от одобрен-ов вливались в рекомендации, результаты поиска, домашние хроники, и способствовала созданию тенденций. Так работая по верификации новых людей с разными взглядами на искусственный интеллект, фундаментально изменились чьи голоса придавались авторитету в качестве мыслителей лидеров и подняли новые идеи в публичный разговор в течение очень критических моментов.

Я также очень горда исследованиями, которые я проводила в Стэнфорде и которые стали основой Black in Moderation. Когда я работала внутри технологических компаний, я заметила, что никто действительно не писал или говорил о тех опытах, которые я переживала каждый день, будучи чернокожей личностью, работающей в сферах Доверия и Безопасности. Поэтому, когда я покинула индустрию и вернулась в академию, я решила поговорить с черными техническими работниками и вывести их истории на широкий свет. Исследование оказалось первым своего рода и вызвало множество новых и важных разговоров о впечатлениях технических сотрудников с маргинальными идентичностями.

Как вы справляетесь с проблемами мужского доминирования в технологической индустрии и, в свою очередь, в отрасли искусственного интеллекта?

Как черная гей-женщина, с трудом ориентирующаяся в мужском доминировании и местах, где меня выставляют как другого, это была часть моего жизненного пути с самого начала. В рамках технологий и искусственного интеллекта, я думаю, что самым сложным аспектом было то, что я называю в своих исследованиях ‘принудительным трудом идентифика-ии’. Я придумала этот термин для описания частых ситуаций, когда сотрудников с маргинальными идентифика-иями обращают как голоса и/или представителями целых сообществ, которые разделяют их идентификации.

Из-за высокой ставки, связанной с разработкой новых технологий, этот труд иногда кажется практически невозможным. Мне пришлось научиться устанавливать очень конкретные границы для себя в том, с какими вопросами я готова вступать и когда.

Какие являются наиболее насущные проблемы, с которыми сталкивается искусственный интеллект по мере своего развития?

Согласно расследовательской журналистике, текущие генеративные модели искусственного интеллекта поглотили всю информацию из интернета и вскоре исчерпают доступные для поглощения данные. Поэтому крупные компании по искусственному интеллекту обратились к синтетическим данным, или информации, созданной самим искусственным интеллектом, а не людьми, чтобы продолжать обучать свои системы.

Эта идея увлекла меня и заставила погрузиться в дебри. Поэтому недавно я написала статью о том, что я считаю, что использование синтетических данных в качестве обучающих данных является одной из наиболее насущных этических проблем, стоящих перед новым развитием искусственного интеллекта. Генеративные системы искусственного интеллекта уже показали, что на основе их первоначальных обучающих данных их выводом является воспроизведение предвзятости и создание недостоверной информации. Поэтому путь обучения новых систем с использованием синтетических данных означает постоянное питание предвзятых и недостоверных выводов обратно в систему как новые обучающие данные. Я описала это как потенциальное погружение в ад обратной связи.

С тех пор, как я написала статью, Марк Цукерберг похвалил, что обновленный чатбот Llama 3 Meta частично работает на синтетических данных и является ‘самым умным’ продуктом генеративного искусственного интеллекта на рынке.

На что должны обращать внимание пользователи искусственного интеллекта?

Искусственный интеллект настолько всеобъемлющей частью нашей современной жизни, начиная от проверки орфографии и лент социальных сетей до чат-ботов и генераторов изображений. Во многих отношениях общество стало подопытным для экспериментов этой новой, не тестированной технологии. Но пользователям искусственного интеллекта не следует чувствовать себя беззащитными.

Я аргументировала, что сторонники технологий должны объединиться и организовать пользователей искусственного интеллекта для требования Паузы на народ по искусственному интеллекту. Я считаю, что Гильдия Писателей Америки показала, что с организацией, коллективным действием и терпеливым решением люди могут объединиться, чтобы создать значимые границы для использования технологий искусственного интеллекта. Я также считаю, что если мы приостановимся сейчас, чтобы исправить ошибки прошлого и создать новые этические руководящие принципы и регулирование, искусственный интеллект не должен стать существенной угрозой для нашего будущего.

Как лучше всего ответственно строить искусственный интеллект?

Мой опыт работы внутри технологических компаний показал, насколько важно, кто находится в комнате, разрабатывающий политику, представляя аргументы и принимая решения. Мой путь также показал мне, что я приобрела необходимые навыки для успешной деятельности в технологической индустрии, начиная с школы журналистики. Сейчас я вернулась работать в Школу журналистики Колумбийского университета, и я заинтересована в подготовке следующего поколения лю