Центр искусственного интеллекта и цифровой политики (CAIDP) подал жалобу в Федеральную торговую комиссию США (FTC) в попытке остановить выпуск мощных систем ИИ для потребителей.
Жалоба была сосредоточена вокруг недавно выпущенной большой языковой модели OpenAI, GPT-4, которую CAIDP описывает в своей жалобе от 30 марта как «предвзятую, вводящую в заблуждение и представляющую угрозу для конфиденциальности и общественной безопасности».
CAIDP, независимая некоммерческая исследовательская организация, утверждала, что коммерческий выпуск GPT-4 нарушает раздел 5 Закона о Федеральной торговой комиссии, который запрещает «недобросовестные или вводящие в заблуждение действия или методы в сфере торговли или влияющие на нее».
В подтверждение своей позиции организация по этике ИИ указала на содержимое системной карты GPT-4, в котором говорится:
«Мы обнаружили, что модель может усиливать и воспроизводить определенные предубеждения и мировоззрения, включая вредные стереотипные и унизительные ассоциации для определенных маргинализированных групп».
В том же документе говорится: «Системы ИИ будут иметь еще больший потенциал для укрепления целых идеологий, мировоззрений, правды и лжи, а также для их цементирования или блокировки, исключая будущие оспаривания, размышления и улучшения».
Жалоба, поданная Центром искусственного интеллекта и цифровой политики против OpenAI. Источник: ЦАИДП.
CAIDP добавил, что OpenAI выпустила GPT-4 для коммерческого использования, полностью осознавая эти риски, и что до его выпуска не проводилась независимая оценка GPT-4.
В результате CAIDP хочет, чтобы FTC провела расследование в отношении продуктов OpenAI и других операторов мощных систем ИИ:
«Пришло время ФТК действовать […] CAIDP призывает FTC начать расследование в отношении OpenAI, предписать дальнейшие коммерческие выпуски GPT-4 и обеспечить создание необходимых барьеров для защиты потребителей, бизнеса и коммерческого рынка».
В то время как ChatGPT-3 был выпущен в ноябре, последняя версия GPT-4 считается в десять раз более интеллектуальной. После его выпуска 14 марта исследование показало, что GPT-4 смог сдать самые строгие школьные и юридические экзамены в США в пределах 90-го процентиля.
Среди прочего, он также может обнаруживать уязвимости смарт-контрактов в Ethereum.
Этим утром я взламывал новый API ChatGPT и обнаружил кое-что очень интересное: существует более 80 секретных плагинов, которые можно раскрыть, удалив определенный параметр из вызова API.
Секретные плагины включают «плагин DAN», «плагин Crypto Prices» и многие другие. pic.twitter.com/Q6JO1VLz5x
— (@rez0__) 24 марта 2023 г.
Жалоба поступила после того, как Илон Маск, Стив Возняк из Apple и множество экспертов по ИИ подписали петицию о «приостановке» разработки систем ИИ, более мощных, чем GPT-4.
Сегодня у меня есть немного экзистенциальной тревоги ИИ
— Илон Маск (@elonmusk) 26 февраля 2023 г.
Президент CAIDP Марк Ротенберг был среди других 2600 подписавших петицию, которая была представлена Институтом будущего жизни 22 марта.
Связанный: Вот как ChatGPT-4 тратит 100 долларов на криптоторговлю
Авторы утверждали, что «Усовершенствованный ИИ может представлять собой глубокое изменение в истории жизни на Земле», к лучшему или к худшему.
Организация Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО) также призвала государства выполнять «Рекомендацию ООН по этике ИИ».
После того, как более 1000 технических работников призвали приостановить обучение самым мощным системам ИИ, @ЮНЕСКО призывает страны немедленно выполнить ее Рекомендацию по этике ИИ — первую глобальную структуру такого рода, принятую 193 государствами-членами pic.twitter .com/GowBq0jKbi
— Элиот Минхенберг (@E_Minchenberg) 30 марта 2023 г.
В других новостях бывший исследователь искусственного интеллекта для Google недавно заявил, что чат-бот Google с искусственным интеллектом «Бард» был обучен с использованием ответов ChatGPT.
Хотя исследователь подал в отставку из-за инцидента, руководители Google отвергли обвинения, выдвинутые их бывшим коллегой.
Журнал: Как предотвратить «уничтожение человечества» ИИ с помощью блокчейна
Источник: Сointеlеgrаph
