Негативные последствия технологии искусственного интеллекта (ИИ) в руках преступников, позволяющей создавать подделки и вредоносное ПО, усилили необходимость принятия мер.
OpenAI, создатель ChatGPT и Dall-e, объявил о программе грантов на кибербезопасность в размере 1 миллиона долларов для повышения и измерения воздействия технологий кибербезопасности, основанных на искусственном интеллекте.
Компания, занимающаяся искусственным интеллектом, постоянно подчеркивала важность регулирования искусственного интеллекта для предотвращения потенциально вредоносных приложений. В продолжающейся цифровой гонке вооружений OpenAI, похоже, принимает упреждающие меры, чтобы позитивные силы не отставали.
OpenAI представил широкий спектр концепций проектов, включая создание приманок для захвата злоумышленников, помощь разработчикам в разработке безопасного программного обеспечения и усовершенствование процедур управления исправлениями для обеспечения оптимальной эффективности.
Цели программы очевидны, как указано в официальном сообщении в блоге OpenAI: «Наша цель — способствовать развитию возможностей кибербезопасности на основе ИИ для защитников посредством грантов и дополнительной помощи». Основное внимание уделяется оценке эффективности моделей ИИ. и определение методов повышения их возможностей кибербезопасности.
Эта новаторская инициатива направлена на достижение трех ключевых целей. Во-первых, он стремится «расширить возможности защитников», используя возможности ИИ и совместные усилия, чтобы сместить баланс в пользу тех, кто занимается повышением общей безопасности и защищенности.
Еще одним направлением инициативы является «измерение возможностей». OpenAI стремится оказывать поддержку проектам, направленным на разработку методов количественного определения для оценки эффективности моделей ИИ в области кибербезопасности. Кроме того, OpenAI намеревается «поднять дискурс», способствуя углубленному обсуждению сложных отношений между ИИ и кибербезопасностью.
Связанный: OpenAI получает предупреждение от японских регуляторов о сборе данных
Эта инициатива разрушает традиционный взгляд на кибербезопасность. OpenAI подчеркивает значение часто слышимой фразы о том, что защитники всегда должны быть правы, а злоумышленникам нужно добиться успеха только один раз. Тем не менее, компания признает силу сотрудничества для достижения общей цели обеспечения безопасности людей. Он призван продемонстрировать, что с помощью ИИ защитники могут изменить динамику и одержать верх.
Журнал: 25 000 трейдеров делают ставки на выбор акций ChatGPT, искусственный интеллект отстой в бросках костей и многое другое
Источник: Сointеlеgrаph
