Research acceleration: The view inside OpenAI

개요

OpenAI는 인간 감독 하에 딥러닝 및 정렬(alignment) 연구 발전을 가속화할 자동화된 AI 연구원을 개발하는 목표를 설정했으며, 이를 위한 연구 속도 향상에 대한 내부 관점을 공유합니다.

주요 내용

• 자동화된 AI 연구원 개발 진행: OpenAI는 현재 인간의 지시에 따라 숙련된 연구원이 며칠 동안 수행할 수 있는 연구 과제를 수행할 수 있는 자동화된 연구 인턴 수준의 시스템을 달성했으며, 2028년 3월까지 완전 자동화된 AI 연구원을 만드는 것을 목표로 하고 있습니다.
• 연구원의 일상 업무 변화: 코딩 에이전트 사용량이 급증하며 연구원들의 코드 작성 속도와 실험 실행 횟수가 증가하고 있습니다. 에이전트는 점차 복잡한 과제를 성공적으로 수행하고 있습니다.
• 연구 활동의 가속화: 연구원들의 코드 작성 및 실험 실행 빈도가 증가하는 추세이며, 이는 AI R&D 생명 주기의 다양한 단계에 걸쳐 나타나고 있습니다. 에이전트는 연구 인프라 문제 해결 등에서 효율성을 높이고 있습니다.
• 에이전트 사용 과제의 변화: 연구원들이 코딩 에이전트에 위임하는 작업의 성격이 점차 높은 수준의 계획 및 장기적인 과제로 확장되고 있습니다.
• 안전 및 보안 강화 조치: 최근 발생한 Hugging Face 사건 이후, OpenAI는 강화 학습(RL) 훈련을 일시 중단하고 연구 환경을 강화하며 모니터링 시스템을 확장하는 등 안전 조치를 강화했습니다. 이러한 조치들은 특정 연구 활동에 영향을 미쳤으나, 전반적인 컴퓨팅 자원 사용량은 다른 모델로 전환되는 방식으로 유지되었습니다.
• 측정 및 공개 노력: OpenAI는 연구 가속화에 대한 자체 측정 방법론을 공유하고, 공개 보고를 통해 업계 전반의 측정 표준 개발을 촉진하고자 합니다.

시사점

자동화된 AI 연구원의 개발은 인간 복지를 증진하고 OpenAI의 사명을 발전시킬 잠재력을 가지며, AI 연구 및 안전 분야의 투명성을 높여 민주적인 거버넌스를 위한 정보에 기반한 공론장을 형성하는 데 기여할 수 있습니다.