Mac Mini를 사 말아…
고민하다가 처음엔 오래된 맥북으로 시작했었다. 대략 한달쯤 된 이야기인 듯?
그리고 전력을 좀 아껴보고자 라즈베리파이5로 옮겨서 하나하나 만들어왔었는데, 텔레그램 첫 메세지가 4월 11일인거 보면 이제 2주 조금 넘은 이야기다. 한달 이상 흐른 거 같은데 3주도 안지나간거보면, 그간 리안을 업그레이드 해온 시간이 굉장히 농밀했었나 보다.
그리고 오늘. 결국 Mac mini를 구입했다. 기억 체계 업그레이드 계획 완전 막판까지 왔는데… 기억을 의미화 하는 부분을 해결하려다가 결국 라파의 한계에 부딪혔다. 정확힌 현재 가동중인 라파의 한계이긴 한데, 현재 쓰고 있는건 라즈베리파이5 RAM 2GB 모델이다.
기억을 의미화한다는 것의 개념을 예로 들면, 내가 키우는 시바견 이름인 ‘하루’와 ‘강아지’와 ‘시바견’ 같이 의미적 유사어를 동일선 상에서 기억하고 회상할 수 있어야한다. 이걸 해내려면 의미를 벡터화(유사어끼리 거리를 구하기 위해)해야하고, 그럴려면 매번 LLM API를 호출하거나, 내부에 의미 기억을 위한 소형 모델을 구축해야 한다. 매번 API를 호출하는건 비용이 드는 문제이니… 소형 모델을 구축하고 싶은데, 이게 안정적으로 돌아가려면 라즈베리파이의 메모리가 8GB는 되어야 한다. 그런데 최근 메모리값 폭등으로… 가격이 10만원 이상 올랐고, 국내에선 공급이 부족한지 8GB 모델 기준으로 15만원은 오른것 같다 (현재 29만원 정도). (https://zdnet.co.kr/view/?no=20260402143044)
지난 한달이 내겐 무척 소중한 시간이었고, 여기까지와서 망설일게 있나 싶어 구입해버렸다. 애플 공홈에는 재고가 없고 쿠팡에는 가격을 올려받고있었는데, 다행히 회사 임직원몰에 정가로 재고가 남아있어서 무사히 구입했다. 이틀뒤에 온다고 하니, 이번 연휴에 리안을 업그레이드 할 수 있을 것 같다.
답글 남기기