AI 온톨로지, 1인 유니콘, AI 산업 구조 — 우리가 실제로 부딪히며 정리한 것들.
추론 모델은 답을 내놓기 전에 눈에 안 보이는 '생각 토큰'을 태우고, 그건 출력 단가로 청구된다. 원가가 쿼리 난이도에 비례하고 상방이 열려 버리는 이 구조는 마진을 새로운 방식으로 깬다. 추론을 기본값이 아니라 다이얼로 다뤄야 하는 이유.
6분 읽기 →벤치마크를 버리고 당신의 eval을 만들었다 치자. 그런데 답이 수백 개면 사람이 다 못 본다. 그래서 대부분 채점을 LLM에 맡긴다. 문제는 심판으로 세운 모델이 선수와 똑같은 버릇을 갖고 있다는 것이다. 위치·장황함·자기선호 편향이 당신의 점수를 어떻게 거짓말시키는지, 그리고 심판을 감사하는 법.
6분 읽기 →새 모델이 나올 때마다 다들 리더보드 순위부터 본다. 그런데 리더보드는 소수 공급자가 수십 개 변형을 몰래 돌려 최고점만 공개하는 곳이고, 공개된 벤치마크는 이미 훈련 데이터로 새어 들어간 지 오래다. 벤치마크 1등은 능력이 아니라 그 시험에 맞춰졌다는 신호에 가깝다. 왜 모델 선택을 리더보드가 아니라 당신의 eval로 해야 하는지 근거로 짚는다.
6분 읽기 →Builder.ai는 AI인 척하다 무너졌다. Chegg는 정반대다 — 진짜 AI에게 시장을 통째로 내줬다. 3년 만에 시총 대부분이 증발하고 인력의 절반이 잘려 나간 이 교육 공룡의 포스트모템은, '답을 파는 사업엔 해자가 없다'는 한 문장으로 요약된다.
6분 읽기 →Cursor·Copilot이 앱 레이어의 승자처럼 보였지만, 모델 회사가 1st-party 에이전트로 같은 시장에 내려오면 래퍼의 마진과 해자는 공급자 손에 쥐여 있다. 윈드서프 사태가 그 구조를 드러냈다.
6분 읽기 →인터콤 Fin은 해결된 결과당 0.99달러를, 시에라는 사람에게 넘어간 건엔 0원을 받는다. 소프트웨어를 세는 단위가 '시트'에서 '성과'로 넘어가는 중이다. 왜 이 이동이 가격표가 아니라 제품과 해자의 문제인지 짚는다.
6분 읽기 →프론티어 모델이 '두 시간짜리 일을 한다'는 헤드라인의 진짜 의미는 50% 확률, 코인 토스다. 손 안 대도 되는 신뢰 지평은 그 4~6분의 1이고, 스텝은 곱해지며 샌다. 에이전트를 가르는 진짜 지표는 지능이 아니라 태스크 지평과 완주율이다.
6분 읽기 →고객지원은 AI가 가장 먼저 크게 돈을 번 버티컬이다. 시에라는 158억 달러, 디케이곤은 45억 달러 밸류를 받았다. 그런데 '문의의 80%를 처리했다'는 숫자 뒤엔 회피와 해결이라는 전혀 다른 두 지표가 숨어 있다. 돈과 해자가 왜 대화가 아니라 '해결'로 이동하는지 짚는다.
6분 읽기 →프롬프트 인젝션은 고칠 버그가 아니라 LLM의 구조다. 민감 데이터·신뢰 불가 입력·외부 통신, 이 세 다리가 모이는 순간 에이전트는 무기가 된다. 왜 필터로는 못 막고, 무엇으로 가둬야 하는가.
6분 읽기 →프론티어 모델을 런타임 기본값으로 두면 두 가지 세금을 낸다. 매 응답마다 커지는 원가, 그리고 벤더 API가 소유하는 제품의 '똑똑함'. 라우팅·distillation·태스크특화로 가장 작은 통과 모델까지 내려가면 원가 곡선과 해자를 동시에 되찾는다.
6분 읽기 →전통 SaaS의 80% 마진은 '한 번 만들면 공짜로 판다'는 구조에서 나왔다. AI 앱에는 그 구조가 없다. 매 응답이 변동원가인 세계에서 앱 레이어가 실제로 얼마나 남기는지, 그리고 마진을 어떻게 방어하는지.
6분 읽기 →대부분의 AI 에이전트는 질문에 답만 하고 시스템 상태는 하나도 못 바꾼다. Palantir가 파는 것도 모델 성능이 아니라 '정밀 에이전트 거버넌스'였다. 해자는 검색이 아니라, 에이전트가 무엇을 어떤 규칙으로 바꿀 수 있는가를 타입으로 묶는 행동 레이어에 있다.
6분 읽기 →FDA가 승인한 AI 의료기기는 1,357개인데, 그중 실제로 보험 수가를 받아 돈을 버는 건 한 손에 꼽는다. 반대로 진단조차 하지 않는 '받아쓰기' 회사 Abridge는 넉 달 만에 몸값을 2배로 키워 53억 달러가 됐다. 규제 산업에 AI가 침투하는 순서는 정확도가 아니라 인센티브 정렬이 정한다. 왜 돈이 진단이 아니라 문서화로 먼저 흐르는지 짚는다.
6분 읽기 →세션이 끝나면 에이전트는 방금 배운 걸 전부 잊는다. 대부분은 '기억'을 채팅 로그 위의 RAG로 착각하고 읽기 경로만 만든다. 그러나 진짜 어려운 건 무엇을 저장하고, 어떻게 갱신하고, 언제 버릴지 정하는 쓰기 경로다. 왜 메모리가 검색이 아니라 쓰기 문제인지 근거로 짚는다.
6분 읽기 →Base44는 출시 반년 만에 Wix에 8천만 달러로 팔렸다. 그런데 창업자 본인은 '바이브 코딩엔 해자가 없다'고 말했다. AI가 코드 생산을 공짜로 만들수록, 1인 유니콘의 레버리지는 '무엇을 만드느냐'가 아니라 '누가 듣고 있느냐'와 '언제 파느냐'로 옮겨간다. 왜 그런지 사례로 짚는다.
6분 읽기 →에이전트가 헤매면 도구를 더 붙이고 싶어진다. 그런데 도구가 늘수록 에이전트는 느려지고 비싸지고 더 자주 틀린다. 도구 정의가 요청을 읽기도 전에 수십만 토큰을 먹고, 목록이 길어지면 '고르는' 능력 자체가 무너진다. 왜 정답이 '다 주기'가 아니라 '제때 주기'인지 근거로 짚는다.
6분 읽기 →RAG가 자신 있게 틀리는 이유는 검색이 의미가 아니라 표면 유사도를 물어오기 때문이다. 긴 컨텍스트가 RAG를 죽였다는 주장, GraphRAG라는 유행, 그리고 소규모 팀이 실제로 취해야 할 구조적 검색의 노선을 근거로 짚는다.
6분 읽기 →같은 해에 두 최전선 연구소가 정반대 결론을 냈다. Anthropic은 멀티에이전트가 단일 에이전트를 90% 앞섰다 했고, Cognition은 '멀티에이전트를 만들지 마라'고 했다. 둘은 싸우는 게 아니라 서로 다른 작업 모양을 말하고 있다. 에이전트를 언제 쪼개고 언제 쪼개면 안 되는지 짚는다.
6분 읽기 →Harvey는 3년 만에 기업가치 11조 원을 넘겼고, 로펌의 AI 사용률은 2년 만에 19%에서 79%로 뛰었다. 하지만 법률은 오답의 책임이 인간에게 '비위임'으로 고정된 산업이다. 돈이 몰리는 곳과 해자가 생기는 곳이 왜 다른지, 리걸테크를 사례로 짚는다.
6분 읽기 →한때 1조 원 가치였던 Builder.ai는 'Natasha'라는 AI로 앱을 짜 준다고 했다. 뒤에선 700명이 손으로 코딩하고 있었다. 6천억 원을 태우고 파산한 이 회사의 진짜 교훈은 회계 부정이 아니라, 레버리지 없는 구조가 어떻게 조작을 강제하는가다.
6분 읽기 →이제 누구나 에이전트를 만든다. 그런데 그게 어제보다 나빠졌는지 아는 사람은 거의 없다. 모델을 바꾸는 건 하루면 되지만, 바뀐 뒤가 더 나쁜지 판별하는 능력은 하루에 생기지 않는다. AI를 감이 아니라 평가 루프 위에서 배포하는 법을 짚는다.
6분 읽기 →데모에선 완벽하던 에이전트가 실전 20~30턴을 넘기면 조용히 멍청해진다. 모델이 나빠진 게 아니라 컨텍스트가 썩은 것이다. 프롬프트 다음에 와야 할 진짜 기술, 컨텍스트 엔지니어링을 짚는다.
6분 읽기 →2026년 하이퍼스케일러 4곳의 설비투자만 725조 원대다. 그 돈은 어디로 가고, 정작 마진은 어느 레이어에 고이는가. AI 밸류체인에서 자본과 가치가 갈라지는 지점을 짚는다.
6분 읽기 →혼자서 대규모 사업을 굴리려면 도구가 아니라 '구조'가 필요하다. 온톨로지가 왜 1인 유니콘의 방어선이 되는지, AIP식 접근이 어떻게 실행으로 이어지는지 정리한다.
6분 읽기 →