매일 밤 뉴스와 공시에서 "어느 회사가 어느 회사와 무슨 관계인가"를 뽑아 출처가 달린 그래프로 만듭니다. 4B 모델의 정밀도는 0.73, 기준은 0.8이었습니다. 모델을 바꾸는 대신 무엇을 그리지 않을지 정했습니다.

이 노드에는 백업이 하나도 없었습니다. 백업을 만들고, 클라우드에서 실제로 복구해 보고, 일부러 장애를 내서 휴대폰 알림을 확인하고, 재부팅을 했습니다. 재부팅 후 vLLM의 KV cache가 절반이 되어 있었습니다.

제 보험 약관과 계약서로 RAG를 시험하자 정답이 자꾸 아래로 밀렸습니다. 다섯 가지를 시도했고, 넷은 숫자가 거절했습니다. 남은 하나는 CPU에서 15초, GPU에서 0.17초였습니다.

파일을 올리면 그 안에서 근거를 찾아 출처와 함께 답하는 RAG를 만들었습니다. 임베딩 모델은 속도로, 검색 품질은 직접 만든 질문 세트로 쟀습니다. 그리고 결론은 "모델이 아니라 검색이 답을 결정한다"였습니다.

엔진은 인증도, 사용량 기록도, 줄 세우기도 하지 않습니다. 회사의 사내 LLM 서비스처럼 클라이언트가 모델과 직접 대화하지 않도록, 그 사이에 Kotlin 게이트웨이를 세웠습니다.

사용자 한 명일 때는 무승부였습니다. 16명이 붙자 한쪽은 첫 글자까지 26초, 다른 쪽은 0.17초였습니다. RTX 4060 Ti 8GB 한 장에 두 엔진을 올리고, 그 과정에서 밟은 함정 네 개를 적었습니다.

어제 글이 "이게 나오면 내 판단이 틀린 것"이라고 미리 적어둔 조건이 하루 만에 그대로 나왔습니다. 실질금리는 1년 레인지의 꼭대기로 돌아갔고, 변동성 지수는 바닥에 있고, 나스닥은 사상 최고가로 마감했습니다.

연준이 실제로 운영하는 금리가 드디어 25bp 올랐습니다. 그런데 같은 날 시장이 정하는 금리는 전부 내렸습니다. 그리고 코스피는 1.65% 올랐지만, 외국인은 순매도로 끝났습니다.

연준이 올린 금리를 시장은 거의 전부 "실질금리" 상승으로 받아들였습니다. 그런데 정작 위험을 값으로 매기는 쪽 — 신용스프레드와 변동성 — 은 어제보다 더 태연해졌습니다. 그리고 코스피는 이틀 늦게 2.68% 올랐습니다.

연준이 금리를 올렸고, 채권시장은 기대인플레이션을 오히려 끌어내렸습니다. 장단기 금리차는 1년 중 가장 납작해졌습니다. 그리고 코스피는 장중 상승분을 종가에 반납했고, 외국인 순매도는 오후에 세 배로 늘었습니다.