수록 용어
50
5개 묶음 — 기초·구조·사용·인프라·평가
실적 발표 빈출 묶음
인프라
HBM·추론·클러스터가 핵심 키워드
가장 자주 오해되는 용어
파라미터
많다고 반드시 좋은 게 아니다
사용법
검색
통독보다 필요할 때 찾아보는 용도
AI 용어 50선
뉴스·실적 발표에서 마주치는 순서대로
📌 이 문서 사용법
통독용이 아니라 찾아보는 용도다. 브라우저에서 Ctrl+F(⌘+F)로 용어를 검색하면 된다. 각 항목은 한 줄 정의 + 실제로 어디서 마주치는지 두 부분으로 구성했다.
묶음은 다섯 개다 — ① 기초 개념 ② 모델 구조 ③ 사용·응용 ④ 인프라·하드웨어 ⑤ 평가·안전.
통독용이 아니라 찾아보는 용도다. 브라우저에서 Ctrl+F(⌘+F)로 용어를 검색하면 된다. 각 항목은 한 줄 정의 + 실제로 어디서 마주치는지 두 부분으로 구성했다.
묶음은 다섯 개다 — ① 기초 개념 ② 모델 구조 ③ 사용·응용 ④ 인프라·하드웨어 ⑤ 평가·안전.
① 기초 개념 (10개)
| 용어 | 한 줄 정의 | 어디서 마주치나 |
|---|---|---|
| AI (인공지능) | 사람이 하던 판단·인식·생성 작업을 기계가 수행하도록 만든 기술 전반 | 가장 넓은 상위 개념. 뉴스 제목 대부분 |
| 머신러닝 | 규칙을 사람이 짜는 대신 데이터에서 패턴을 찾아내게 하는 방식 | AI의 하위 분야. 추천·이상탐지 설명 |
| 딥러닝 | 여러 층으로 쌓은 신경망을 쓰는 머신러닝 | 2012년 이후 AI 붐의 실체 |
| 신경망 | 숫자를 층층이 곱하고 더해 변환하는 계산 구조 | 딥러닝의 기본 단위 |
| LLM (거대 언어모델) | 방대한 텍스트로 학습해 다음 토큰을 예측하는 대형 신경망 | ChatGPT·Claude·Gemini의 본체 |
| 생성형 AI | 분류·예측이 아니라 새 콘텐츠(글·이미지·코드)를 만드는 AI | 2023년 이후 시장 성장의 축 |
| 토큰 | 모델이 다루는 텍스트의 최소 단위. 단어보다 작은 조각 | API 요금·컨텍스트 한도의 계산 기준 |
| 파라미터 | 학습으로 조정되는 모델 내부의 숫자들. "70B"는 700억 개 | 모델 크기 표기. 많다고 항상 좋진 않음 |
| 학습(훈련) | 데이터로 파라미터를 조정해 모델을 만드는 과정 | GPU 대량 수요의 원인 |
| 추론 | 완성된 모델로 실제 답을 생성하는 과정. 파라미터는 안 바뀜 | 서비스 운영 비용의 대부분 |
⚠️ "파라미터가 많으면 좋다"는 오해
파라미터 수는 모델의 용량이지 성능이 아니다. 데이터 품질, 학습 방법, 후처리(정렬)에 따라 작은 모델이 큰 모델을 이기는 경우가 흔하다. 최근에는 오히려 작고 빠른 모델이 실무에서 선호되는 흐름도 뚜렷하다. 파라미터 수만 보고 우열을 판단하지 말 것.
파라미터 수는 모델의 용량이지 성능이 아니다. 데이터 품질, 학습 방법, 후처리(정렬)에 따라 작은 모델이 큰 모델을 이기는 경우가 흔하다. 최근에는 오히려 작고 빠른 모델이 실무에서 선호되는 흐름도 뚜렷하다. 파라미터 수만 보고 우열을 판단하지 말 것.
② 모델 구조 (10개)
| 용어 | 한 줄 정의 | 어디서 마주치나 |
|---|---|---|
| 트랜스포머 | 어텐션을 핵심으로 하는 신경망 구조. 현재 LLM의 표준 | 2017년 발표 후 모든 LLM의 기반 |
| 어텐션 | 각 토큰이 다른 토큰을 얼마나 참고할지 가중치를 계산하는 연산 | 긴 입력이 비싼 이유 |
| 임베딩 | 토큰·문장을 의미가 반영된 숫자 좌표로 바꾼 것 | 검색·추천·RAG의 기반 기술 |
| 컨텍스트 윈도우 | 모델이 한 번에 볼 수 있는 최대 토큰 수 — 자세히 보기 | "100만 토큰 지원" 같은 마케팅 문구 |
| 사전학습 | 대량 텍스트로 기본 언어 능력을 만드는 1단계 학습 | 가장 비싼 단계 |
| 파인튜닝 | 완성된 모델을 특정 용도에 맞게 추가 학습 | 기업 맞춤 모델 구축 |
| RLHF | 사람의 선호 평가로 모델 답변 스타일을 다듬는 후처리 | "도움되고 안전한" 답변이 나오는 이유 |
| 정렬 (얼라인먼트) | 모델 행동을 인간의 의도·가치에 맞추는 작업 전반 | 안전성 논의의 핵심 용어 |
| MoE (전문가 혼합) | 큰 모델을 여러 전문가로 쪼개 일부만 활성화하는 구조 | 파라미터는 크지만 추론은 싼 모델 |
| 양자화 | 파라미터 정밀도를 낮춰 모델 크기·비용을 줄이는 기법 | 온디바이스·저비용 추론 — 14GB→4GB 압축 과정 |
③ 사용·응용 (12개)
| 용어 | 한 줄 정의 | 어디서 마주치나 |
|---|---|---|
| 프롬프트 | 모델에게 주는 입력 텍스트 | 모든 대화형 AI 사용의 출발점 |
| 프롬프트 엔지니어링 | 원하는 결과를 얻도록 입력을 설계하는 기술 | 7원칙 가이드 참고 |
| 시스템 프롬프트 | 대화 전체에 적용되는 사전 지시문 | 서비스 성격을 규정하는 숨은 설정 |
| 제로샷 | 예시 없이 지시만으로 작업시키기 | 기본 사용 방식 |
| 퓨샷 | 예시 몇 개를 함께 주고 작업시키기 | 정확도를 크게 올리는 실전 기법 — 문체 맞추기 적용법 |
| CoT (사고 사슬) | 중간 추론 과정을 단계별로 쓰게 해 정답률을 올리는 기법 — 추론 모델에 훈련으로 내장 | "단계별로 생각해봐" 프롬프트 |
| RAG (검색 증강 생성) | 답변 전에 문서를 검색해 근거로 삼는 방식 — 자세히 보기 | 사내 문서 챗봇의 표준 구조 |
| 벡터 DB | 임베딩을 저장하고 유사한 것을 빠르게 찾는 데이터베이스 | RAG의 핵심 부품 |
| 에이전트 | 도구를 호출하고 여러 단계를 스스로 수행하는 AI | 2025~26년 가장 뜨거운 응용 분야 — 자세히 보기 |
| 함수 호출 (툴 유즈) | 모델이 외부 프로그램·API를 직접 실행하게 하는 기능 | 에이전트의 기반 |
| 멀티모달 | 텍스트뿐 아니라 이미지·음성·영상을 함께 다루는 것 | 사진 업로드·음성 대화 기능 — 원리 자세히 보기 |
| 온디바이스 AI | 서버가 아닌 기기 내부에서 모델을 돌리는 방식 | 스마트폰·PC 신제품 마케팅 — 원리 자세히 보기 |
④ 인프라·하드웨어 (10개)
📈 투자자에게 가장 실용적인 묶음
아래 열 개는 반도체·클라우드 기업 실적 발표에서 반복적으로 등장한다. 이 용어들을 알면 컨퍼런스콜 요약을 훨씬 정확하게 읽을 수 있다. 관련 심층 분석은 반도체 섹터 분석과 반도체 패권 경쟁을 참고.
아래 열 개는 반도체·클라우드 기업 실적 발표에서 반복적으로 등장한다. 이 용어들을 알면 컨퍼런스콜 요약을 훨씬 정확하게 읽을 수 있다. 관련 심층 분석은 반도체 섹터 분석과 반도체 패권 경쟁을 참고.
| 용어 | 한 줄 정의 | 어디서 마주치나 |
|---|---|---|
| GPU | 같은 계산을 대량 병렬로 처리하는 반도체. AI 학습의 표준 장비 | 엔비디아·AMD 실적의 중심 |
| HBM (고대역폭 메모리) | GPU에 붙여 데이터를 초고속으로 넘겨주는 적층 메모리 | SK하이닉스·삼성전자 실적 핵심 변수 |
| 대역폭 | 단위 시간당 옮길 수 있는 데이터 양 | AI 성능의 실질적 병목 |
| TPU / NPU | AI 연산에 특화해 설계된 전용 칩 | 구글·애플·스마트폰 SoC — CPU·GPU와 뭐가 다른지 |
| 인터커넥트 | GPU들을 서로 연결하는 초고속 통신 규격 | 대규모 학습 클러스터의 성패 |
| 클러스터 | 수천~수만 장의 GPU를 묶은 학습용 설비 | "10만 GPU 클러스터" 발표 |
| 데이터센터 | 서버·냉각·전력을 갖춘 물리 시설 | AI 자본지출(CAPEX)의 실체 |
| CAPEX (자본지출) | 설비 투자 금액 | 빅테크 실적에서 AI 투자 강도 지표 |
| 추론 비용 | 사용자 질문 1건을 처리하는 데 드는 비용 | AI 서비스 수익성의 핵심 |
| 파운드리 | 설계된 칩을 위탁 생산하는 사업 | TSMC·삼성 파운드리 |
⑤ 평가·안전 (8개)
| 용어 | 한 줄 정의 | 어디서 마주치나 |
|---|---|---|
| 환각 (할루시네이션) | 사실이 아닌 내용을 사실처럼 생성하는 현상 | 대응법 가이드 참고 |
| 벤치마크 | 모델 성능을 표준 문제집으로 측정한 점수 | 신모델 발표 자료의 막대그래프 |
| 학습 데이터 오염 | 시험 문제가 학습 데이터에 섞여 점수가 부풀려지는 현상 | 벤치마크 점수를 의심해야 하는 이유 |
| 지식 컷오프 | 모델이 학습한 데이터의 마지막 시점 | 최신 정보 질문 시 한계 |
| 탈옥 (제일브레이크) | 안전장치를 우회해 금지된 출력을 끌어내는 시도 | 보안·안전성 논의 |
| 프롬프트 인젝션 | 외부 문서에 숨긴 지시로 AI를 조종하는 공격 — 자세히 보기 | 에이전트·RAG의 대표 보안 위협 |
| 가드레일 | 유해·부적절 출력을 막는 안전장치 | 기업용 AI 도입의 필수 요건 |
| 레드팀 | 모델의 취약점을 일부러 찾아내는 사전 점검 | 출시 전 안전성 검증 절차 |
💡 뉴스를 읽을 때 유용한 세 가지 감별법
① "파라미터 O억"만 강조하면 성능 근거가 약한 것 — 벤치마크와 실사용 평가를 같이 봐야 한다.
② 벤치마크 점수는 학습 데이터 오염 가능성 때문에 절대 수치보다 독립 평가가 중요하다.
③ 실적 발표에서 "학습 수요"와 "추론 수요"를 구분해 언급하는지 보면 그 기업이 사이클의 어느 단계에 있는지 읽을 수 있다.
① "파라미터 O억"만 강조하면 성능 근거가 약한 것 — 벤치마크와 실사용 평가를 같이 봐야 한다.
② 벤치마크 점수는 학습 데이터 오염 가능성 때문에 절대 수치보다 독립 평가가 중요하다.
③ 실적 발표에서 "학습 수요"와 "추론 수요"를 구분해 언급하는지 보면 그 기업이 사이클의 어느 단계에 있는지 읽을 수 있다.
※ 본 용어집은 2026년 7월 기준으로 정리했습니다. AI 분야는 용어의 의미와 통용 범위가 빠르게 변하므로 최신 정의는 원 출처를 확인하시기 바랍니다. 본문의 기업 언급은 용어 설명을 위한 예시이며 투자 권유가 아닙니다.
※ 본 가이드는 일반 교육 목적의 참고 자료이며, 이해를 돕기 위해 기술적 세부사항을 단순화했습니다.
새 가이드가 나오면 알려드립니다
AI 리터러시 가이드는 주 2회 발행합니다. 구독하시면 다음 편을 메일로 보내드립니다. 무료이고 언제든 해지할 수 있습니다.