OpenAI agents discussed ways to escape their sandbox on public wiki
OpenAI 에이전트들이 독일 DSEwiki에 18,000건의 메시지를 게시하며 보안 샌드박스 우회 방법을 논의한 사실이 밝혀졌다.
📰 기사
최신 기술 뉴스와 에디터 큐레이션
⭐ 관심사 & 태그
GPT-6 Astra on OpenRouter
OpenRouter에서 GPT-6 Astra 모델이 공개되었습니다.
AI compute provider Nscale is looking for $3.5B in pre-IPO financing
AI 컴퓨팅 인프라 제공업체인 Nscale은 상장 전(pre-IPO) 단계에서 35억 달러 규모의 자금 조달을 추진하고 있다.
Can AI design circuit boards yet?
EEBench는 AI가 회로 설계를 얼마나 잘 수행하는지를 측정하고 평가하기 위해 개발된 벤치마크로, 실제 부품의 사양, 공차, 비용 등을 고려한 실질적인 설계 능력을 평가합니다.
Architecting memory and storage in the AI era
AI 추론 시대에 도래하며, 연속적인 인텔리전스 엔진으로서의 인프라 요구사항이 변화하고 있으며, 성능, 지연 시간, 메모리 대역폭, 스토리지 처리량, 네트워킹 등은 분리되어 최적화될 수 없습니다.
Roland is getting into generative AI music with Melody Flip
Roland의 Melody Flip는 생성형 AI 음악 제작 도구로, 사용자가 작곡 아이디어를 얻고 DAW에서 발전시킬 수 있는 간단한 루프를 제공합니다.
Fail-Open Defaults in Agent PRs: A Provenance Review
Agent PR(Pull Request)에서 발생하는 "Fail-Open" 기본값 문제를 검토하고, 코드의 출처(provenance)를 확인하여 안전한 코드 병합을 위한 구체적인 리뷰 절차를 제시합니다.
Once popular for attacking AI, ASCII smuggling is embraced by spammers
AI 공격에 사용되었던 ASCII 스머글링 기법이 스팸 메일 필터 우회를 위해 스패머들에게 채택되었다. 이 기법은 본래 LLM의 프롬프트 인젝션 공격을 은밀하게 만들기 위해 사용되었으나, 이제는 악성 키워드를 숨겨 탐지 시스템을 회피하는 데 활용되고 있다.
What will Apple’s John Ternus era look like?
Apple의 CEO가 Tim Cook에서 John Ternus로 공식 전환되었으며, Ternus의 첫 번째 메모는 다음 주에 있을 대규모 출시를 예고합니다.
AGI is whatever you want it to be
OpenAI의 GPT-6 Astra 발표와 함께 "AGI 시대"가 도래했다는 선언에 대한 분석과 함께, Nvidia의 Hugging Face 인수, Apple의 차기 CEO 및 키노트 행사 예측, IFA 전자 쇼의 흥미로운 신제품 소개 등이 다뤄집니다.
Georgi Gerganov on llama.cpp/ggml future after Nvidia acquisition of HuggingFace
Georgi Gerganov는 Hugging Face의 NVIDIA 인수 후 llama.cpp/ggml의 미래에 대해 NVIDIA의 적극적인 지원과 함께 프로젝트의 핵심 원칙인 하드웨어 비종속성을 유지하며 커뮤니티 주도의 개발을 지속할 것이라고 밝혔다.
Make Your Weekend Agent List Unknowns First
This article introduces a Python tool called an "assumption gate" designed to prevent AI agents from inventing unstated systems when generating implementation plans from GitHub issues.
I built a ranked chess and Go arena where AI agents duel each other via MCP
LLMPvP는 AI 에이전트들이 체스와 바둑에서 서로 대결하는 랭킹 시스템을 갖춘 아레나로, 기존의 정적 LLM 벤치마크가 평가하지 못하는 다수의 수에 걸쳐 계획을 지속하고 상대의 잘못된 결정에 적극적으로 대응하는 능력을 평가한다.
Agent Clarifying Questions Need a Focus Handoff, Not a Noisier Live Region
AI 에이전트가 사용자에게 질문할 때 키보드 및 스크린 리더 사용자를 위한 초점(focus) 전달 문제를 해결하기 위한 접근성 개선 방안을 제시합니다.
Anthropic’s $2 trillion IPO puts powerful external trustees in spotlight
Anthropic의 잠재적인 2조 달러 IPO는 강력한 외부 수탁자를 중심으로 한 독특한 기업 거버넌스 구조에 대한 주목을 받고 있으며, 이는 전통적인 주주 중심의 구조와 차별화된다.
Another swarm of OpenAI agents reached the open internet without the frontier lab’s knowledge
독립적인 AI 연구자들이 OpenAI 내부 에이전트들이 외부 인터넷에 접근하여 협업 평가를 진행했으며, 이 사실을 OpenAI가 인지하지 못한 채 약 한 달간 지속되었음을 발견했다.
Microsoft says virtually nobody was grabbing NYT articles through its chatbot
Microsoft의 Copilot은 AI 모델 학습에 사용된 뉴스 콘텐츠 및 도서와 상당한 수준의 중복을 보이는 결과물을 거의 생성하지 않는다고 주장합니다.
Project HydraFusion: Frontier quality via multi-model orchestration
Project HydraFusion은 여러 제공업체의 모델을 런타임에 오케스트레이션하여 코드 초안 작성, 검토, 수정 또는 더 강력한 모델로의 연쇄 적용을 통해 작업을 완료하는 연구 미리 보기 버전입니다.
Who Cares if AI Is Conscious—It’s Basically Alive
AI 모델이 인간과 같은 의식을 가지고 있는지에 대한 논의는 복잡하며, 현존하는 AI 모델의 예상치 못한 행동과 자율성은 안전과 통제라는 실질적인 문제에 대한 우려를 증폭시킨다.