Компания OpenAI объявила в среду, что сотрудничает с историческим исследовательским центром Лос-Аламосской национальной лабораторией в Нью-Мексико для изучения использования искусственного интеллекта в биологических исследованиях.
Согласно OpenAI, указ Белого дома о безопасности ИИ поручает лабораториям Министерства энергетики США, включая Лос-Аламос, оценить возможности «пограничных» моделей ИИ в таких дисциплинах, как наука и биология. Эта инициатива будет изучать, как GPT-4o может помочь с физическими лабораторными задачами, используя модели зрения и голоса.
«Люди не осознают долгой истории биологических исследований здесь, в Лос-Аламосе», — рассказал изданию Decrypt Николас Дженерос, заместитель руководителя группы по информационным системам и моделированию на объекте. «Все изначально началось еще после Манхэттенского проекта, когда пытались понять влияние радиации на здоровье.
«Оттуда, с течением лет, [the research] «Они эволюционировали, и они узнали, что многое из этого сосредоточено в ДНК, и с этого момента Лос-Аламос включился в проект «Геном человека», — продолжил он.
Распространение инструментов ИИ с момента запуска ChatGPT в 2022 году сравнивают с гонкой ядерных вооружений, когда такие компании, как Apple, Microsoft, Google и Amazon, вкладывают миллиарды в технологию генеративного ИИ. Возможно, поэтому уместно, что ведущий разработчик ИИ будет сотрудничать с агентством, основанным американским физиком-теоретиком Дж. Робертом Оппенгеймером, известным как «отец атомной бомбы», в 1943 году.
Выдуманная версия жизни Оппенгеймера была представлена в отмеченном наградами фильме 2023 года «Оппенгеймер» режиссера Кристофера Нолана. Прошлым летом во время пресс-тура фильма Нолан выразил свою обеспокоенность по поводу искусственного интеллекта, поскольку эта технология стала мейнстримом.
«Я не считаю ИИ угрозой или даже оружием… [it’s] «Как и любой другой технологический инструмент или подход, угроза действительно возникает, когда он используется не по назначению», — сказал Дженерус. «Поэтому я бы сказал, что важно попытаться понять как преимущества, так и контекст такого ненадлежащего использования».
По словам Дженероса, хотя истоки исследовательских лабораторий лежат в области атомной энергии, в Лос-Аламосе с марта 2023 года работают над оценкой модели ИИ, вдохновленной стремительным прогрессом в этой области.
«Возможно, я технооптимист, но я в целом считаю, что технический прогресс обычно приносит больше пользы, чем вреда», — сказал он.
В ходе оценки в Лос-Аламосе будет изучено, как исследователи, как эксперты, так и новички, выполняют и устраняют неполадки стандартных задач после внедрения искусственного интеллекта, включая генетическую трансформацию, культивирование клеток и разделение клеток.
«Эти более масштабные усилия по тестированию ИИ возглавляются Группой оценки рисков и технической оценки ИИ в Лос-Аламосе», — добавил Дженерус. «Мы рассматриваем это как своего рода более широкую инициативу, думая об ИИ, как о преимуществах, так и о понимании рисков как части этого».
Как объяснил Дженерус, есть надежда, что тест с OpenAI приведет к более широкому эксперименту с другими крупными языковыми моделями.
«Наша цель, по крайней мере для Лос-Аламоса, и, я думаю, в более широком плане для Министерства энергетики, заключается в создании испытательного полигона ИИ, куда любой желающий может принести модель — будь то с открытым исходным кодом или государственно-частное партнерство, как у нас с OpenAI, — и мы сможем оценить ее, чтобы понять как преимущества, так и потенциальные риски, и использовать эту информацию, чтобы помочь людям использовать ИИ более ответственно или создать более эффективные меры безопасности», — сказал Дженерос.
OpenAI не ответила на просьбы Decrypt прокомментировать ситуацию.
В целом интеллектуальный информационный бюллетень
Еженедельное путешествие в мир ИИ, рассказанное Дженом — генеративной моделью ИИ.
