Проект Трампа по развитию ИИ стоимостью $500 миллиардов имеет значительные риски

Одним из своих первых шагов в должности 47-го президента Соединенных Штатов Дональд Трамп объявил о новом проекте на 500 миллиардов долларов под названием "Звездные врата" (Stargate), направленный на ускорение развития искусственного интеллекта (ИИ) в США. Преподаватель Школы компьютерных наук Сиднейского университета Армин Читизаде рассказал о существенных рисках, которые несет этот проект.

• Указ Трампа о "только двух полах" фактически определяет всех американцев женщинами

Детали

Проект Трампа является партнерством трех крупных технологических компаний – OpenAI, SoftBank и Oracle. Трамп назвал это "крупнейшим проектом инфраструктуры искусственного интеллекта в истории" и сказал, что он поможет сохранить будущее технологий в США.

Однако технический миллиардер Илон Маск имел другое мнение, бездоказательно утверждая на своей платформе X, что спонсоры проекта "на самом деле не имеют денег". X, не входящая в Stargate, также работает над разработкой искусственного интеллекта, а Маск является соперником генерального директора OpenAI Сэма Альтмана.

Вместе с объявлением о Stargate Трамп также упразднил указ, подписанный его предшественником Джо Байденом, который был направлен на ограничение и контроль рисков ИИ.

Читизаде отмечает, что эти два шага воплощают менталитет, распространенный в развитии технологий, который лучше всего можно подытожить фразой: "двигайся быстро и ломай вещи".

США уже являются мировым лидером в разработке ИИ. Stargate значительно увеличит это преимущество над другими нациями. По словам Читизаде, в США будет построена сеть центров обработки данных. В этих центрах будут размещены большие компьютерные серверы, нужные для работы программ ИИ, таких как ChatGPT. Эти серверы будут работать в режиме 24/7 и потребуют значительного количества электроэнергии и воды для работы.

Согласно заявлению OpenAI, в американском штате Техас уже ведется строительство новых центров обработки данных в рамках Stargate.

Увеличение инвестиций Трампа в разработку искусственного интеллекта вдохновляет. Это может помочь расширить многочисленные потенциальные преимущества ИИ. К примеру, ИИ может улучшить прогноз для онкологических заболеваний путем быстрого анализа медицинских данных и выявления ранних признаков заболевания.

Но одновременно отмена Трампом указа Байдена о безопасной разработке и использовании ИИ вызывает глубокую обеспокоенность. Это может означать, что любые потенциальные преимущества Stargate могут быть не столь яркими на фоне ее потенциала усилить имеющийся вред технологий ИИ.

Фото: rawpixel.com

Да, в распоряжении Байдена не хватало важных технических деталей. Но это было многообещающее начало разработки более безопасных и ответственных систем ИИ. Одна из основных проблем, которую указ Байдена должен был решить – технологические компании собирали личные данные для обучения ИИ без предварительного получения согласия.

Системы ИИ собирают данные по всему Интернету. Даже если данные доступны в Интернете для использования людьми, это не означает, что системы ИИ должны использовать их для обучения. Кроме того, если фотография или текст введены в модель ИИ, их невозможно удалить. Существовали многочисленные случаи, когда художники подавали в суд на генераторы изображений за несанкционированное использование их работ.

Еще одной проблемой, которую предписание Байдена должно было решить, был риск причинения вреда, особенно людям из меньшинств. Большинство инструментов ИИ направлены на повышение точности для большинства. Без надлежащего дизайна они могут принимать очень опасные решения для немногих.

К примеру, в 2015 году алгоритм распознавания изображений, разработанный Google, автоматически обозначал фотографии чернокожих как "гориллы". Позже эта проблема была обнаружена в системах искусственного интеллекта других компаний, таких как Yahoo и Apple, и остается нерешенной спустя десятилетия, поскольку эти системы часто слишком сложны даже для их создателей.

Эта сложность делает критически важным правильно проектировать системы ИИ с самого начала. Проблемы могут быть глубоко укоренены в самой системе искусственного интеллекта, ухудшаться со временем, и их становится почти невозможно исправить.

Поскольку инструменты искусственного интеллекта все чаще принимают важные решения, например проверку резюме, меньшинства подвергаются еще большему удару. Например, программное обеспечение для распознавания лиц на основе искусственного интеллекта чаще всего неправильно идентифицирует чернокожих и других не белых людей, что приводит к ложным арестам и заключению.

Проект Stargate в первые дни своего второго термина Трампа показывает, что его главная цель в технологии ИИ – скорость и мощность. Читизаде подчеркивает: 

Если сравнить систему искусственного интеллекта с автомобилем, это похоже на разработку быстрого автомобиля, игнорируя ключевые функции безопасности, такие как ремни безопасности или подушки безопасности, чтобы сохранить его более легким и, следовательно, более быстрым. Как для автомобилей, так и для ИИ этот подход может означать передачу очень опасных машин в руки миллиардов людей во всем мире.

Ранее мы сообщали, что Дональд Трамп подписал указ о выходе США из Всемирной организации здравоохранения.