오늘자 LLM계의 빅이슈

https://www.threads.com/@choi.openai/post/DM_UtdrTHY4

난 그렇게 호들갑 떨 일은 아니라고 생각한다. 어차피 AI 신모델은 계속 나왔엇고, 성능은 오르고 있었다. 한때 반도체, CPU성능이 기하급수적으로 올랐을 때도 그렇듯이 이는 어마어마한 일이지만 딱히 놀라울 일은 아니다. 오히려 갑자기 오픈AI에서, 지금의 AI모델로는 성능 한계에요 하면 그게 놀랄 일이지.

근데 빅테크 셋이 동시에 뉴스 터트린건 큰일이긴 하다. 다만 내 기준으로 더 무서운건 따로있다.

이들은 성능개선을 위한 파이프라인이 있다.

그리고 시장을 관찰하며 대응하고 있다.

그조차도 당연하지만 그 당연한 일이 무시무시한 거다. 왜냐하면 오픈AI하나가 만들고 서빙하는 모델이  한두개가 아니다. 멀티모달도 된다. 이미지 생성모델, TTS와 STT도 있다. 그리고 그걸 꾸준히 업그레이드 한다. 지금 그 파이프라인을 갖춘 이들은 따라갈거고, 그걸 지금 못하는 이들과의 격차는 계속 벌어질거다.

생성형 모델의 무서운점은 데이터도 생성할 수 있다는거다. 생성 데이터로 인터넷이 오염되서 쓸 데이터가 없어? 내가 보기엔 개소리다. 그건 먼저 앞서가는 빅테크들의 견제구에 불과하다. 데이터 오염보다 빠르게 정제 기술이 발달할거다. 소량의 휴먼 피드백으로 대규모의 align이 가능할거다. 그걸 바탕으로 지속적으로 기능을 확장할거다.

오픈 AI는 작은 모델로 지속적인 확장을 하고 있고, 조만간 오프라인 디바이스에도 챗GPT가 실릴거다.

Genie는 월드모델이라고 한다. 발전하면 게임, 애니메이션, 영화 뿐만이 아니라 산업쪽 AI도 씹어먹을수도 있다. 제조 AI의 크나큰 한 축은 최적화고 그 바탕은 디지털 트윈, 즉 시뮬레이션 기술이다.

클로드는... 음... 모르겠다. 오퍼스는 4도 써보기 무서워서...

이런 와중에, 난 프로젝트 나가서 고객에게 '우린 멀티모달 안되는데염?'하면서 자괴감을 느낀다. 멀티모달... 작년에 이미 유행 지나서 지금은 '그게 안돼요?'하고 놀라는 수준의 기술...