Почему так много компаний, которые полагаются на пользовательские данные для зарабатывания денег, питают слабость к искусственному интеллекту? Если вы спросите президента Signal Мередит Уитакер, она ответит вам, что это просто потому, что «искусственный интеллект — это технология наблюдения».
Выступая на TechCrunchDisrupt2023, Уиттакер изложила свое мнение о том, что ИИ во многом неотделим от больших данных и нацелен на такие компании, как Google и Meta, менее ориентированные на потребителя, но не менее известные корпоративные и оборонные компании.
«Для этого необходимы бизнес-модели наблюдения; это усиление роста рекламы наблюдения, которое мы наблюдаем с конца 1990-х годов. Я думаю, что ИИ — это способ консолидировать и расширить бизнес-модели наблюдения», — сказала она. «Диаграмма Венна — это круг. Использование искусственного интеллекта — это тоже форма наблюдения, верно? Знаете, вы проходите мимо камеры распознавания лиц с псевдонаучным инструментом распознавания эмоций, и она генерирует о вас данные, которые, правильно или неправильно, говорят: «ты счастлив, тебе грустно, у тебя плохой характер, ты лжец и т. д.». В конечном итоге это системы наблюдения, которые продаются тем, кто имеет над нами власть: нашим работодателям, правительствам, пограничному контролю и т. д., чтобы они могли выносить суждения и прогнозы, определяющие наш доступ к ресурсам и возможностям».
По иронии судьбы, отмечает она, данные, лежащие в основе этих систем, часто систематизируются и аннотируются теми самыми работниками, которым эти данные могут быть предназначены (необходимый шаг в процессе сборки наборов данных ИИ).
«На уровне информирования фундаментальной правды о данных невозможно создать эти системы без человеческого труда — обучение с подкреплением и обратной связью от человека, что опять же является просто технологией, очищающей нестабильный человеческий труд», — объяснила она. «Тысячи рабочих получают низкую зарплату, но в целом затраты высоки, и нет другого способа создать эти системы, абсолютно нет другого способа. В каком-то смысле то, что мы наблюдаем, — это феномен Волшебника страны Оз, когда, когда мы приоткрываем занавес, на самом деле не так уж много интеллекта».
Однако не все системы искусственного интеллекта и машинного обучения одинаково эксплуататорские. Когда ее спросили, использует ли Signal какие-либо инструменты или процессы искусственного интеллекта в своем приложении или в разработке, она подтвердила, что у приложения есть «макет небольшого устройства, но мы его не разрабатывали, а использовали его в готовом виде как часть функции размытия лица в нашем наборе инструментов для редактирования мультимедиа. На самом деле это не так уж и хорошо… но оно может помочь распознавать лица на фотографиях толпы и размывать их, так что, когда вы делитесь этими фотографиями в социальных сетях, вы не раскрываете личные биометрические данные людей Clearview и тому подобным».
«Но дело в том, что... да, это отличное использование искусственного интеллекта, разве он не позволяет нам противодействовать всему негативу, который я выбрасываю на сцену?» добавила она. «Конечно, если это единственный рынок для распознавания лиц… но давайте внесем ясность. Процесс разработки и внедрения технологии распознавания лиц стоит дорого, и экономические стимулы никогда не сделают это единственным применением».