Can AI Coexist With Privacy? Proton’s Andy Yen Says It Will Have To

개요

Proton의 CEO Andy Yen은 AI 시대에 개인 정보 보호와 AI 기술의 공존이 불가피하며, 이를 위해 Proton은 자체 AI 챗봇 Lumo를 출시하는 등 프라이버시 중심의 AI 솔루션을 개발하고 있다.

주요 내용

* AI와 개인 정보 보호의 관계: 많은 개인 정보 보호 옹호자들에게 AI는 감시 기술로 간주된다. AI는 온라인 추적 및 감시 도구를 강화하고, 방대한 데이터를 분석하며, 사용자들의 민감한 정보를 클라우드 기반 LLM과 공유하도록 유도한다. 이러한 감시 자본주의는 AI의 발전을 가능하게 했고, AI는 다시 감시를 더욱 강력하게 만들어 기업의 수익성을 증대시킨다.
* Proton의 등장 배경: Andy Yen은 CERN에서 입자 물리학자로 일하다 2013년 에드워드 스노든의 폭로를 계기로 정부 및 기업의 대규모 감시에 대한 문제 의식을 느꼈다. 특히 인터넷의 기본 비즈니스 모델이 모든 활동을 기록, 공유, 수익화하는 것에 대한 반성으로 Proton Mail을 설립했으며, 이후 캘린더, 파일 스토리지, 문서 작성 등 Google Workspace와 유사한 기능들을 프라이버시 중심으로 재구축했다.
* AI 시대의 Proton의 역할: AI 기술의 발전을 막을 수 없다는 전제 하에, Yen은 AI의 미래를 누가 통제할 것인지가 중요하다고 말한다. 그는 사용자의 데이터를 보호하는 데 실패했던 거대 기술 기업이 아닌, 독립적인 기술 기업이 프라이버시 중심의 AI를 개발해야 한다고 주장한다. Proton은 이러한 필요성에 따라 AI 도구 개발에 참여하여, 거대 기술 기업이 AI의 미래를 독점하는 것을 방지하고자 한다.
* Lumo 챗봇과 프라이버시: Proton은 AI 챗봇 Lumo를 출시했지만, 현재 Lumo는 완전한 종단 간 암호화(end-to-end encryption)를 지원하지는 않는다. Yen은 LLM 기술로는 아직 종단 간 암호화가 어렵지만, NVIDIA의 연구 등을 통해 2~3년 내에 이를 지원할 수 있을 것으로 예상한다. 현재 Lumo는 "종단 간 보호(end-to-end protected)"라는 개념을 적용하여, GPU의 연산 과정에서 데이터가 유출되지 않도록 암호학적 보증을 제공하는 보안 엔클레이브(secure enclave)를 사용한다. 이는 수학적 보증보다는 Proton의 약속에 기반하지만, 사용자 데이터 보호를 위한 노력을 보여준다.
* AI에 대한 사용자 반응: Proton 사용자들이 초기에 AI 기능 도입에 대해 회의적이었으나, Lumo 출시 이후 기능 개선에 대한 요구가 증가하면서 AI 기술 자체에 대한 거부감보다는 거대 기술 기업 방식의 AI에 대한 거부감이 크다는 것을 확인했다.
* 개인 정보 보호와 정치: Proton은 AI backlash 외에도 정치적 불안감으로 인해 사용자가 증가하고 있다고 언급했다. Yen은 개인 정보 보호가 좌우를 가리지 않는 중요한 이슈이며, 정권이 바뀌더라도 데이터 보안을 보장하는 수단이기에 누구에게나 중요하다고 강조했다. 또한, 유럽의 'Chat Control'과 같은 감시 강화 움직임에 대해, 자유와 민주주의의 근간을 훼손하고 유럽의 경쟁력을 약화시킬 수 있다고 비판했다.
* Proton의 조직 구조: Proton은 주주 이익 극대화를 추구하는 일반적인 기업 모델에서 벗어나기 위해 비영리 재단이 최대 주주인 독특한 구조를 채택하고 있다. 이는 사용자 이익과 기업의 이익을 일치시키고, 장기적인 사회적 가치를 추구하려는 목적을 가진다.

시사점

AI 기술의 발전 속에서 개인 정보 보호와 기술의 통합은 피할 수 없는 과제이며, Proton은 프라이버시를 최우선으로 하는 AI 솔루션 제공을 통해 이러한 딜레마에 대한 대안을 제시하고 있다. 또한, Proton의 조직 구조는 이익 극대화 중심의 기업 모델에 대한 대안으로서 사회적 가치를 추구하는 새로운 모델을 제시한다.