9월 21일 ~ 9월 28일

구축 Technical Architecture

더 잘 찾아도 답은 좋아지지 않는다

① 문제: 검색 품질을 올리려고 임베딩 모델을 바꾸는 조직이 많다. 그런데 같은 모델에 청킹만 바꿔도 검색 점수가 두 배 가까이 갈린다. ② 프레임 재정의: 검색 설계에서 고를 것은 모델이 아니라 단위와 순서다. 무엇을 한 덩어리로 묶고, 어떤 차례로 올려 보낼 것인가의 문제다. ③ 손실 규모: 나쁜 청킹은 모든 모델에 천장을 씌운다. 그 천장 아래에서는 더 비싼 모델을 써도 점수가 오르지 않는다. 모델 교체 비용이 그대로 버려진다. ④ 지속성: 새로운 관찰이 아니다. 청크에 맥락 한 줄을 붙이면 회수 실패율이 3분의 1로 떨어진다. 2024년에 이미 나온 보고다. ⑤ 가치: 그런데 검색을 잘해도 답이 좋아진다는 보장은 없다. 검색 지표가 올라도 최종 답변 품질이 따라 오르지 않는 사례가 반복해서 보고된다. ⑥ 방향: 검색의 마지막 부품은 리트리벌이 아니라 근거 표시다. 사람이 답을 되짚을 수 있어야 그 시스템을 업무에 쓴다.

국내

• '모두의 AI' 시범 서비스가 9월에 열린다뉴시스
• 보안 특화 국가대표 AI, 네이버클라우드와 SKT가 맞붙었다서울경제

해외

• TSMC 애리조나 2호 팹 양산이 2027년으로 당겨졌다Tom's Hardware
• 에이전트를 확장까지 끌고 간 기업은 15%에 그쳤다Deloitte