OpenAI launches Astra, its powerful (and controversial) new model

개요

OpenAI가 공개한 최신 AI 모델 Astra는 기존 모델 대비 강력한 성능과 정확성, 안전성을 자랑하며, 컴퓨터 및 브라우저 사용의 새로운 지평을 열 것으로 기대된다.

주요 내용

* Astra 출시 및 성능: OpenAI는 Astra가 자사의 가장 강력하고 유능한 모델이며, "컴퓨터 및 브라우저 사용의 새로운 지평"을 열 것이라고 주장한다. 이 모델은 "속도, 정확성, 안전성" 측면에서 비견할 수 없는 성능을 제공한다고 한다.
* 접근성: Astra는 Daybreak 사이버 보안 프로그램을 사용하는 OpenAI 고객에게 즉시 제공되며, 향후 일주일 내에 Pro, Plus, Enterprise, Business 등 유료 플랜과 API를 통해서도 사용 가능해진다.
* 기술적 특징 및 사이버 보안: Astra는 제로데이 익스플로잇을 식별하고 개발하는 능력을 통해 방어자들이 약점을 찾아 패치하는 데 도움을 줄 수 있다. 또한, OpenAI는 모델의 안전성 강화를 위해 새로운 보호 장치를 마련하고 다양한 보안 벤치마크를 통해 테스트를 진행했다고 밝혔다.
* 코딩 능력: OpenAI는 Astra가 "지금까지 소프트웨어 엔지니어링 분야에서 최고의 모델"이라고 주장하며, 제로데이 익스플로잇 발견, 터미널 작업 실행, 코드베이스 관련 질의응답 등에서 다른 모델보다 높은 점수를 얻었음을 시사하는 벤치마킹 테스트 결과를 제시했다.
* 논란의 여지 - 불투명 순환(Opaque Recurrence): Astra는 '불투명 순환(opaque recurrence)'이라는 특정 추론 기법을 사용하여, AI 모델이 결정을 내린 방식과 이유를 감사할 수 있게 해주는 '사고 과정(chain of thought)' 모니터링 프로세스를 모호하게 만든다는 점에서 논란이 있다. OpenAI는 이 기법의 사용 정도를 축소하며, 모델 진화의 자연스러운 결과라고 설명했다.
* AGI(인공 일반 지능) 관련 논의: OpenAI의 사장 Greg Brockman은 Astra가 AGI에 해당하는지에 대한 질문에 대해, 과거 Microsoft와의 계약상의 AGI 트리거는 더 이상 유효하지 않다고 언급하며 AGI의 정의가 계약적 의무에서 "미션 컨셉 또는 정신적 개념"으로 진화했다고 설명했다. 그는 개인적으로는 AGI에 도달했다고 생각한다고 밝혔다.

시사점

Astra의 출시는 AI가 인간의 업무를 위임받고 인간을 역량 강화하는 방식에 있어 실질적인 변화를 가져올 잠재력을 보여주며, 동시에 AI의 투명성과 통제 가능성에 대한 지속적인 논의를 촉발한다.