241117 오블완#11 발표 준비

원래같으면 집에서 좀 쉬었을 법도 한데.
어제도 적었지마는 요새는 정말 눈코뜰새없이 바쁘다.
기능 커버리지 관련 프로그램 구현도 있기도 한데 그건 부수적인 일이고
LLM 관련하여 발표를 할 일이 있는데 이게 빡세다.
회사 일이니 자세히는 적을 수 없지만 발표 대상이 꽤 높은 분이라.
그래서 오늘은.. 하루종일 회사에 줄창 있었다.

처음에 AI 일은 약간 흥미로 시작했던 일인데,
어느샌가 내가 하는 업무 중에 꽤 비중이 있는 일이 되었다.
혹시라도 논문을 쓸 수 있을까 하다가 선배님 말씀을 듣고 접은 일이었는데,
기어이 발표 한 번은 할 수 있게 된 걸 보니 인생은 참 알 수 없는 거 같다.
잘해내서 좋게 보였으면 좋겠다.

이번 테스트에서 사용해본 모델은 다음과 같다.
* mistral:7b (4.1 GB)
* mixtral:8x7b (26 GB)
* deepseek-coder-v2:16b (8.9 GB)
* codellama:34b (19 GB)
* qwen2.5-coder:32b (20 GB)
* deepseek-coder-v2:236b (133 GB)
* llama3.1:405b (228 GB)

아래는... 글이 좀 허전해서 붙여본 각 일러스트들이다.

ollama는 아이콘 정말 귀엽게 잘 만든 것 같다.

참고로 사이트를 들어가면 모두 자신의 AI가 아주 우수하다고 적어놨는데,
그 비교군은 거의 다 ChatGPT-4o 또는 GPT4-Turbo가 대상인 것 같다.
나처럼 ChatGPT를 월 20$씩 돈 내고 쓰는 사람이라면,
컴퓨터 성능만 받쳐준다면 Local LLM도 충분히 좋은 선택이지 않을까 싶다.

어떤 걸 더 쓸 수 있는지 고민하다가.... 도저히 안 떠올라서 여기까지 쓰기로 했다.
중국어 공부나 해야지.