So you’ve heard these AI terms and nodded along; let’s fix that

개요

AI 기술 용어의 증가에 따라 LLM, RAG, RLHF 등 혼란스러운 전문 용어를 명확히 이해할 수 있도록 설명하는 글입니다.

주요 내용

• AGI (Artificial General Intelligence): 대부분의 작업에서 인간보다 뛰어난 능력을 가진 AI를 의미하며, 정의에 대한 전문가 간에도 이견이 존재합니다.
• AI Agent: 지출 신고, 예약, 코딩 유지보수 등 여러 작업을 대신 수행하는 AI 기반 도구로, 여러 AI 시스템을 활용하여 다단계 작업을 수행할 수 있습니다.
• API Endpoints: 다른 프로그램이 소프트웨어 기능을 호출할 수 있도록 하는 인터페이스 역할을 하며, AI Agent가 이를 활용하여 외부 서비스를 자동 제어할 수 있습니다.
• Chain of Thought: LLM이 복잡한 문제를 여러 단계의 중간 단계로 분해하여 문제 해결의 정확성을 높이는 추론 방식입니다.
• Coding Agent: 소프트웨어 개발 목표 달성을 위해 코드 작성, 테스트, 디버깅을 자율적으로 수행하는 전문 AI Agent입니다.
• Compute: AI 모델의 훈련 및 배포에 필요한 GPU, CPU, TPU 등 하드웨어 기반의 연산 능력을 의미합니다.
• Deep Learning: 다층 신경망 구조를 활용하여 복잡한 데이터 상관관계를 파악하는 머신러닝의 한 분야로, 대규모 데이터 학습이 필요합니다.
• Diffusion: 노이즈를 추가하여 데이터를 파괴한 후, 이를 복원하는 역확산 과정을 학습하여 데이터를 생성하는 기술입니다.
• Distillation: 대규모 '교사' 모델의 지식을 소규모 '학생' 모델에 전달하여 더 효율적인 모델을 만드는 기법입니다.
• Fine-tuning: 특정 작업이나 도메인에 맞춰 AI 모델을 추가 학습시켜 성능을 최적화하는 과정입니다.
• GAN (Generative Adversarial Network): 생성자와 판별자라는 두 개의 신경망이 경쟁하며 사실적인 데이터를 생성하는 머신러닝 프레임워크입니다.
• Hallucination: AI 모델이 잘못된 정보를 생성하는 현상으로, 훈련 데이터의 불완전성으로 발생하며, 수직 AI 모델 개발의 동기가 됩니다.
• Inference: 훈련된 AI 모델을 실행하여 예측하거나 결론을 도출하는 과정입니다.
• Large Language Model (LLM): ChatGPT, Gemini 등 AI 어시스턴트에 사용되는 모델로, 수십억 개의 매개변수를 가지며 언어 패턴을 학습합니다.
• Memory Cache: AI 모델의 추론 효율성을 높이기 위해 반복 계산을 저장하는 최적화 기법입니다.
• Neural Network: 인간의 뇌 신경망에서 영감을 받은 다층 알고리즘 구조로, 딥러닝 및 생성 AI의 기반이 됩니다.
• Open Source: AI 모델의 소스 코드를 공개하여 누구나 사용, 검토, 수정할 수 있도록 하는 방식으로, 개발 및 안전 감사 가속화에 기여합니다.
• Parallelization: 여러 작업을 동시에 수행하여 AI 모델의 훈련 및 추론 속도를 높이는 기술로, GPU 활용의 핵심입니다.
• RAMageddon: AI 산업의 급증하는 RAM 수요로 인한 칩 부족 및 가격 상승 현상을 지칭합니다.
• Reinforcement Learning: 보상 기반 학습 방식을 통해 AI 시스템이 시행착오를 거치며 최적의 행동을 학습하는 기법입니다.
• Token: LLM이 텍스트를 처리하기 위해 분할하는 데이터의 기본 단위로, AI 사용량에 따른 비용 산정 기준이 됩니다.
• Token Throughput: 특정 시간 동안 AI 시스템이 처리할 수 있는 토큰의 양으로, 동시 사용자 수 및 응답 속도에 영향을 미칩니다.
• Training: AI 모델이 데이터로부터 패턴을 학습하여 유용한 출력을 생성하도록 하는 과정입니다.
• Transfer Learning: 기존에 훈련된 모델의 지식을 활용하여 새로운 모델을 개발하는 기법으로, 개발 효율성을 높입니다.
• Weights: AI 훈련 시 데이터의 각 특징(feature)에 부여되는 중요도로, 모델의 출력에 영향을 미칩니다.
• Validation Loss: AI 모델의 학습 상태를 나타내는 지표로, 과적합(overfitting) 여부를 판단하는 데 사용됩니다.

시사점

AI 기술 발전 속도에 발맞춰 최신 전문 용어를 명확히 이해하는 것은 AI 기술의 민주화와 효과적인 활용을 위해 중요합니다. 이 용어들은 AI 시스템의 작동 원리를 이해하고, 새로운 기술 동향을 파악하며, AI 기반 솔루션을 개발하고 평가하는 데 필수적인 기반 지식을 제공합니다.