Вскоре OpenAI может столкнуться с самой большой регулятивной проблемой, поскольку итальянские власти настаивают на том, что у компании есть время до 30 апреля, чтобы соблюдать местные и европейские законы о защите данных и конфиденциальности, что, по мнению экспертов в области искусственного интеллекта (ИИ), может быть почти невыполнимым.
Итальянские власти ввели полный запрет на продукты OpenAI GPT в конце марта, став первой западной страной, которая полностью отказалась от этих продуктов. Действия были предприняты после утечки данных, когда клиенты ChatGPT и GPT API могли видеть данные, сгенерированные другими пользователями.
Мы считаем, что количество пользователей, чьи данные были фактически раскрыты кому-то еще, чрезвычайно мало, и мы связались с теми, кого это могло затронуть. Мы очень серьезно относимся к этому и делимся подробностями нашего расследования и плана здесь. 2/2 https://t.co/JwjfbcHr3g
— OpenAI (@OpenAI) 24 марта 2023 г.
Согласно переводу Bing итальянского приказа, предписывающего OpenAI прекратить свои операции ChatGPT в стране до тех пор, пока он не сможет продемонстрировать соответствие:
«В своем распоряжении итальянское SA подчеркивает, что никакой информации не предоставляется пользователям и субъектам данных, чьи данные собираются Open AI; что еще более важно, похоже, нет никакой правовой основы для массового сбора и обработки персональных данных с целью «обучения» алгоритмов, на которые опирается платформа».
Далее в итальянской жалобе говорится, что OpenAI также должна принять меры по проверке возраста, чтобы гарантировать, что ее программное обеспечение и услуги соответствуют собственным условиям обслуживания компании, требующим, чтобы пользователи были старше 13 лет.
Связанный: законодатели ЕС призывают к «безопасному» ИИ, поскольку генеральный директор Google предостерегает от быстрого развития
Чтобы добиться соблюдения конфиденциальности в Италии и во всей остальной части Европейского Союза, OpenAI должен будет обеспечить основу для своих широких процессов сбора данных.
В соответствии с Общим регламентом ЕС по защите данных (GDPR) технические службы должны запрашивать согласие пользователя на обучение с использованием персональных данных. Кроме того, компании, работающие в Европе, также должны предоставить европейцам возможность отказаться от сбора и обмена данными.
По словам экспертов, это станет сложной задачей для OpenAI, поскольку его модели обучаются на огромных массивах данных, которые берутся из Интернета и объединяются в обучающие наборы. Эта форма обучения методом «черного ящика» направлена на создание парадигмы под названием «появление», когда полезные черты проявляются в моделях непредсказуемо.
«GPT-4 … демонстрирует эмерджентное поведение».
Подожди, подожди, подожди. Если мы не знаем обучающих данных, как мы можем сказать, что «возникает» и что из этого «результат»?!?!
Я думаю, что они имеют в виду идею «возникновения», но все же я не уверен, что имеется в виду. https://t.co/Mnupou6D1d— ММитчелл (@mmitchell_ai) 11 апреля 2023 г.
К сожалению, это означает, что разработчики редко могут точно знать, что находится в наборе данных. А поскольку машина имеет тенденцию объединять несколько точек данных при создании выходных данных, выделение или изменение отдельных фрагментов данных может оказаться за пределами возможностей современных технических специалистов.
Маргарет Митчелл, эксперт по этике ИИ, сообщила журналу Technology Review Массачусетского технологического института, что «OpenAI сочтет практически невозможным идентифицировать данные отдельных лиц и удалить их из своих моделей».
Чтобы достичь соответствия, OpenAI должна будет продемонстрировать, что она получила данные, используемые для обучения своих моделей, с согласия пользователя — что, как показывают исследовательские документы компании, не соответствует действительности — или продемонстрировать, что у нее был «законный интерес» в сборе данных в первое место.
Лилиан Эдвардс, профессор интернет-права в Университете Ньюкасла, рассказала журналу Technology Review Массачусетского технологического института, что спор серьезнее, чем просто иск Италии, заявив, что «нарушения OpenAI настолько вопиющие, что вполне вероятно, что это дело попадет в Суд Европейский Союз, высший суд ЕС».
Это ставит OpenAI в потенциально опасное положение. Если он не сможет идентифицировать и удалить отдельные данные по запросам пользователей или внести изменения в данные, которые искажают людей, он может оказаться не в состоянии использовать свои продукты ChatGPT в Италии после крайнего срока 30 апреля.
На этом проблемы компании могут не закончиться, поскольку регулирующие органы Франции, Германии, Ирландии и ЕС также в настоящее время рассматривают возможность принятия мер по регулированию ChatGPT.
Источник: Сointеlеgrаph
