Компания OpenAI, производитель искусственного интеллекта, незаметно приостановила работу своего программного обеспечения для обнаружения ИИ, сославшись на низкую точность.
Классификатор искусственного интеллекта, разработанный OpenAI, был впервые запущен 31 января и призван помочь пользователям, таким как учителя и профессора, отличать текст, написанный человеком, от текста, созданного искусственным интеллектом.
Однако, согласно исходному сообщению в блоге, в котором было объявлено о запуске инструмента, классификатор ИИ был закрыт с 20 июля:
«По состоянию на 20 июля 2023 года классификатор ИИ больше не доступен из-за его низкой точности».
Ссылка на инструмент больше не работает, а в примечании приводится лишь простое объяснение того, почему инструмент был закрыт. Однако компания объяснила, что ищет новые, более эффективные способы идентификации контента, созданного ИИ.
«Мы работаем над тем, чтобы учесть отзывы, и в настоящее время изучаем более эффективные методы определения происхождения текста и взяли на себя обязательство разработать и внедрить механизмы, которые позволят пользователям понять, создан ли аудио- или визуальный контент с помощью ИИ», — говорится в заметке.
Бывший классификатор искусственного интеллекта OpenAI в действии. Источник: Оригинальность AI
С самого начала OpenAI дал понять, что инструмент обнаружения подвержен ошибкам и не может считаться «полностью надежным».
Компания заявила, что ограничения ее инструмента обнаружения ИИ включают в себя «очень неточную» проверку текста длиной менее 1000 символов и могут «уверенно» маркировать текст, написанный людьми, как сгенерированный ИИ.
Связанный: у Apple есть собственная система искусственного интеллекта GPT, но нет заявленных планов по публичному выпуску: отчет
Классификатор является последним продуктом OpenAI, который подвергся тщательной проверке.
18 июля исследователи из Стэнфорда и Калифорнийского университета в Беркли опубликовали исследование, которое показало, что флагманский продукт OpenAI ChatGPT со временем становится значительно хуже.
Мы оценили поведение #ChatGPT с течением времени и обнаружили существенные различия в его ответах на *одинаковые вопросы* между июньской версией GPT4 и GPT3.5 и мартовской версией. В более новых версиях некоторые задачи стали хуже. с Линцзяо Чен @matei_zaharia pic.twitter.com/FEiqrUVbg6
— Джеймс Зоу (@james_y_zou) 19 июля 2023 г.
Исследователи обнаружили, что за последние несколько месяцев способность ChatGPT-4 точно идентифицировать простые числа упала с 97,6% до всего лишь 2,4%. Кроме того, как в ChatGPT-3.5, так и в ChatGPT-4 наблюдалось значительное снижение способности генерировать новые строки кода.
AI Eye: ИИ, обученный контенту ИИ, сходит с ума, является ли Threads лидером по потерям данных ИИ?
Источник: Сointеlеgrаph
