ChatGPT, большая языковая модель, которая может общаться с пользователями, является одной из новаторских моделей OpenAI. Хотя у этой технологии есть множество преимуществ, некоторые опасаются, что ее необходимо регулировать таким образом, чтобы обеспечить конфиденциальность, нейтралитет и децентрализованное знание. Децентрализованная автономная организация (DAO) может стать решением этих проблем.
Во-первых, конфиденциальность является серьезной проблемой, когда речь идет об использовании ChatGPT. Чтобы улучшить свои ответы, модель собирает данные от пользователей, но эти данные могут содержать конфиденциальную информацию, которую отдельные лица могут не захотеть разглашать центральному органу. Например, если пользователь раскрывает ChatGPT свою финансовую или медицинскую историю, эта информация может быть сохранена и использована способами, которые он не ожидал или не разрешал. Если информация получена неуполномоченными сторонами, это может привести к нарушению конфиденциальности или даже к краже личных данных.
Связанный: ИИ играет роль в обнаружении поддельных NFT
Кроме того, ChatGPT может использоваться для незаконных действий, таких как фишинговые атаки или атаки социальной инженерии. Имитируя человеческое обсуждение, ChatGPT может обманом заставить пользователей раскрыть личную информацию или предпринять действия, которые они обычно не делают. Крайне важно, чтобы OpenAI установил четкие политики и процедуры для управления и хранения пользовательских данных, чтобы развеять эти опасения по поводу конфиденциальности. DAO может обеспечить децентрализованное хранение данных, собранных ChatGPT, где пользователи имеют больший контроль над своими данными и доступ к ним могут получить только авторизованные лица.
Во-вторых, растет беспокойство по поводу политической предвзятости в моделях искусственного интеллекта, и ChatGPT не является исключением. Некоторые опасаются, что дальнейшее развитие этих моделей может привести к непреднамеренному усилению существующих в обществе предубеждений или, возможно, к появлению новых. Чат-бот с искусственным интеллектом также может использоваться для распространения пропаганды или ложной информации. Это может привести к несправедливым или несправедливым результатам, которые негативно скажутся как на отдельных лицах, так и на сообществах. Предвзятые ответы могут быть результатом модели, отражающей предубеждения разработчиков или данных обучения.
Связанный: Майнеры криптовалют возглавляют следующий этап ИИ
DAO может гарантировать, что ChatGPT обучен на объективных данных и что ответы, которые он дает, тщательно изучаются широким кругом людей, например, представителями различных компаний, академических учреждений и общественных организаций, которые могут обнаружить и исправить любую предвзятость. Это сведет к минимуму возможность предвзятости, гарантируя, что решения о ChatGPT принимаются с учетом различных точек зрения.
DAO также может внедрить систему сдержек и противовесов, чтобы гарантировать, что ChatGPT не укрепит уже существующие в обществе предрассудки и не привнесет новые. Например, DAO может внедрить процедуру проверки ответов ChatGPT, чтобы убедиться, что они беспристрастны и справедливы. Это может потребовать, чтобы беспристрастные профессионалы изучили комментарии ChatGPT и указали на любые случаи предвзятости.
Ярмарка справедлива. pic.twitter.com/5KAmEXivAY
— Тед Круз (@tedcruz) 4 февраля 2023 г.
Наконец, еще одна проблема с ChatGPT — это централизация знаний. Модель имеет доступ к огромному количеству информации, что выгодно во многих отношениях. Это может привести к монополии на знания, поскольку знания сосредоточены в руках небольшого числа людей или организаций. Точно так же существует риск того, что обмен знаниями между человеком и машиной станет нормой, в результате чего люди будут полностью зависеть от машин в плане коллективного знания.
Например, программист, столкнувшийся с проблемой кодирования, мог ранее обратиться к Stack Overflow за помощью, опубликовав свой вопрос и получив ответы от других программистов, которые могли столкнуться с похожими проблемами и найти решения. Тем не менее, по мере распространения языковых моделей ИИ, таких как ChatGPT, программисты все чаще задают запрос и затем получают ответ, не общаясь с другими людьми. Это может привести к меньшему взаимодействию пользователей и меньшему обмену знаниями в Интернете — например, на таких веб-сайтах, как Stack Overflow, — а также к консолидации знаний в рамках языковых моделей ИИ. Это может значительно подорвать человеческую свободу действий и контроль над производством и распространением знаний, что сделает их менее доступными для нас в будущем.
Я вхожу в 2% лучших пользователей StackOverflow. Мой контент там посмотрели более 1,7 млн человек. И вряд ли я когда-нибудь еще что-нибудь напишу туда.
Что может быть гораздо большей проблемой, чем кажется. Потому что это может быть канарейка в шахте нашего коллективного знания.
А… pic.twitter.com/YNZvFtwyfu
— Питер Никси (@peternixey) 26 марта 2023 г.
Нет простых ответов на сложную проблему централизации знаний. Однако в нем подчеркивается необходимость более децентрализованной стратегии производства и передачи знаний. В этой ситуации может помочь DAO, который предлагает основу для более демократичного и открытого обмена информацией. Используя технологию блокчейна и смарт-контракты, DAO может позволить людям и организациям работать вместе и вносить свой вклад в общий объем знаний, имея при этом больший контроль над доступом к этим знаниям.
В конечном счете, DAO может предложить структуру для наблюдения и управления операциями ChatGPT, гарантируя децентрализованное хранение пользовательских данных, ответы, которые тщательно проверяются на предмет предвзятости, а также более демократичный и открытый обмен информацией. Использование DAO может быть жизнеспособным решением этих проблем, обеспечивая большую подотчетность, прозрачность и контроль над использованием ChatGPT и других языковых моделей ИИ. Поскольку технология искусственного интеллекта продолжает развиваться, крайне важно, чтобы мы уделяли первоочередное внимание этическим соображениям и предпринимали активные шаги для решения потенциальных проблем до того, как они станут проблемой.
Гунит Каур присоединилась к в качестве редактора в 2021 году. Она имеет степень магистра наук в области финансовых технологий Университета Стирлинга и степень магистра делового администрирования индийского Университета Гуру Нанак Дев.
Эта статья предназначена для общих информационных целей и не предназначена и не должна восприниматься как юридическая или инвестиционная консультация. Взгляды, мысли и мнения, выраженные здесь, принадлежат только автору и не обязательно отражают или представляют взгляды и мнения .
Источник: Сointеlеgrаph
