내 작업용 챗봇 만들기 01 - ChatGPT vs Notebook LM

일반적으로 LLM은 그냥 학습한 내용 중 그럴싸한 내용으로 대답해줄 뿐이다. 일을 하려면 정보가 필요하다. 일반적으로는 방대한 학습 데이터의 일반적인 상식 정보들과 함께, 인터넷 검색과 연동해서 작동한다. 하지만 그것만으로는 본격적인 업무를 처리하기에 한계가 많다. 왜냐하면 그 업무를 위해서는 기존에 쌓아온, 그리고 계속 업무를 하면서 쌓이는 데이터를 기반으로 답변을 할 줄 알아야 하기 때문이다.

 

그것을 위한 기술이 바로 RAG (Retrieval Augmented Generation) 이다. 참조문서를 기반으로 하여, 질문에 맞는 참조문서의 파츠를 검색해 답변해주는 기술이다. 참조문서를 나누는 것도, 그것을 검색하는 것도 저마다의 다양한 방법들이 있지만, 일단 이건 재끼고.

 

일반인도 쉽게 쓸 수 있는 서비스를 기준으로 한다면 일단 크게 2개 서비스가 대표적이다. 일단 챗GPT의 프로젝트 기능과, 구글에서 만든 Notebook LM 이다.

 

소개

챗 GPT에서는 다음과 같이 프로젝트 생성이 가능하다.

https://chatgpt.com/?model=gpt-5

ChatGPT

 

새 프로젝트를 눌러 원하는 업무에 따라 별도의 챗봇을 구성할 수 있다.

 

프로젝트 내부의 설정을 통해 업무를 위한 사전 정보를 설정할 수 있다. 해당 업무를 위한 특화 자료를 파일추가에, 업무 답변을 위한 가이드를 지침추가에 넣을 수 있다.

 

그리고 또 하나의 중요한 서비스가 바로 요즘 핫한 Notebook LM.

https://notebooklm.google/

Google NotebookLM | AI 조사 도구 및 사고 파트너

 

 챗GPT의 프로젝트는 하나의 Workspace의 느낌이라면 Notebook LM에서는 개별 Work의 느낌이다.

 

비교

정리하기 귀찮았으므로 일단 챗GPT를 시켜보았다.

 

나 : Notebook LM 과 챗GPT간의, 참조문서 기반 AI 서비스 이용에서의 장단점과 공통점, 차이점을 분석해줘

 

좋은 주제네요 👍
NotebookLM(Google)과 ChatGPT(OpenAI)의 참조 문서 기반 AI 서비스를 비교해드릴게요.

---

📌 공통점

1. 참조 문서를 업로드·연결 가능
   • PDF, 문서, 노트 등을 기반으로 질의응답(QA), 요약, 분석 제공.
   • 사용자 문서를 “사실 근거”로 삼아 답변하므로 일반 챗봇보다 신뢰도 ↑.
2. RAG(Retrieval-Augmented Generation) 방식 활용
   • 외부 지식을 LLM에 직접 집어넣는 게 아니라, 관련 문서를 찾아 답변에 반영.
   • 최신 정보 반영, 맥락 기반 답변에 강점.
3. 대화형 인터페이스
   • 질의응답/요약/해설을 자연어로 주고받으며, 단순 검색보다 이해 중심.
4. 맞춤형 활용
   • 개인 연구, 학습, 비즈니스 리서치 등 상황에 따라 문서를 기반으로 개별화된 지식베이스 구축.

---

📌 차이점

구분 NotebookLM (Google) ChatGPT (OpenAI)

접근 방식	사용자가 올린 문서를 “Notebook” 단위로 정리·구성하여, 하나의 지식 공간으로 관리	업로드한 파일을 세션 내에서 활용하거나, API+RAG 조합으로 직접 구축
참조 문서 관리	Notebook 단위로 구조화 → 장기간 저장 및 지속적 업데이트 가능	ChatGPT는 세션 기반 업로드(Plus 기준 최대 20MB PDF 등) API 사용 시 벡터DB/RAG 직접 세팅 필요
출처 제시	답변마다 원문 하이라이트 및 링크 제공 (출처 기반 신뢰성 강조)	출처 제시는 모델 프롬프트 설계에 따라 다름 (기본 답변엔 없는 경우 많음)
통합성	Google Docs, Drive, Scholar, YouTube 등 구글 생태계와 연계	다양한 플러그인, 서드파티 RAG 연결 가능 (예: Notion, 슬랙, 기업 내 DB)
사용자 경험	연구/학습용 "노트" 중심 → 리서치, 요약, 비교 분석 특화	대화형 범용 AI → 참조 문서 기반 QA 외에도 코드, 창작, 시뮬레이션 등 광범위
모델 선택	Google Gemini 기반 (NotebookLM은 Gemini 1.5 계열 사용)	GPT-4o, GPT-4.1 등 선택 가능
확장성	개인 리서치/학습 최적화, B2C 지향	RAG 프레임워크 직접 구성 → 기업 B2B, 워크플로 자동화에 강점

---

📌 장단점 비교

✅ NotebookLM 장점

• 출처를 명확히 제시 → 신뢰도 높음
• 노트북 단위 관리로 학습/연구에 편리
• 구글 생태계와의 자연스러운 연동

❌ NotebookLM 단점

• 활용 범위가 학습·리서치 중심으로 제한적
• 맞춤형 RAG 설계, 기업용 확장은 미흡
• 오픈 생태계 연결성 부족 (플러그인/개발자 API 한계)

---

✅ ChatGPT 장점

• 범용성 (문서 기반 QA + 창작, 코드, 시뮬레이션 등 가능)
• API + 벡터DB 연계로 기업 맞춤 RAG 구축 용이
• 다양한 플러그인·툴과 연동 가능

❌ ChatGPT 단점

• 출처 제시 일관성 부족 (설계 필요)
• 문서 관리 기능이 기본 제공되지 않아, 별도 DB/워크플로 필요
• 개인 연구자 관점에서 문헌·학습 관리 편의성은 NotebookLM보다 낮음

---

📌 결론

• 개인 연구/학습, 문헌 정리 중심이라면 👉 NotebookLM이 더 직관적이고 신뢰도 있는 환경 제공
• 기업 활용, 자동화, 다양한 워크플로 통합이라면 👉 ChatGPT + RAG 구축이 더 강력

---

👉 혹시 원하시면, 두 서비스를 **사용 시나리오별(학생·연구자·스타트업·대기업)**로 적합도를 매트릭스로 정리해드릴까요?

 

직접 사용해본 핵심적인 부분을 정리하면 아래와 같다.

종합평가

ChatGPT

 - 업무내용을 Workspace로 묶어서 관리 (기존 챗GPT 사용과 동일한 방식으로 직관적이고 편리하게 활용 가능)

 - 인터넷 정보와 혼합 활용 가능

 - 이미지 기능 등 기존 기능 연동 가능 (개인적으로 캐릭터 이미지 생성에 쓰므로 중요...)

 - RAG 기능이 확실히 떨어지는 것이 느껴짐...

 

Notebook LM

 - 자료의 분석 & 정리를 하는 단건 작업에 효과적 (다양한 분석도구 등)

 - 충실한 RAG성능 (참조항목의 개수가 많고 추적이 편리, 인터넷 검색을 배재하는 만큼 RAG에 집중)

 - 다양한 요약정리 기능 (오디오, 슬라이드, 마인드맵 등) 제공 (오디오 오버뷰, 나름 재밌음)

 - 챗 히스토리가 보존이 안 되며 내부 세션 분리하여 관리가 안 되는 부분은 단점...

 

기본 서비스

ChatGPT

 - RAG 기반 질의응답, 기존 챗봇 기능 전반, 이미지 생성 가능

 

Notebook LM

 - RAG 기반 질의응답, 인터넷 연동 불가, 이미지 생성 불가

 - Google Drive, Youtube등 구글 서비스 연동 가능 (필요에 따라 자유롭게 검색하기보다 소스 문서/영상을 Direct로 가져올 뿐인 것으로 추정)

 - 요약정리 기능 제공

  * AI 오디오 오버뷰 : 업로드 된 문서들의 내용에 대해 전반적인 내용을 팟캐스트 라디오와 같이 진행자들이 설명하는 형식으로 생성

  * 동영상 개요 : 슬라이드 형식으로 내용을 설명하는 영상 생성

  * 마인드맵 : 문서에 나타나는 개념들의 연관관계를 마인드 맵 형태로 생성

  * 보고서 : 브리핑, 학습가이드, FAQ, 타임라인 생성

 

제약사항

ChatGPT

 - 무료 이용자의 경우 3시간 당 3개 문서 (유로는 80개) 업로드 가능

 - 프로젝트 당 총 20개 파일, 파일당 512MB/2,000,000토큰 제한 (플러스 까지 20개, 프로 이상은 40개)

 - 사용자별 10GB 제한

 

Notebook LM

 - 100 노트북, 총 50개 파일, 각각 500,000단어 (실험적으로 한국어 txt 문서 약 4MB 미만)

 - 매일 챗 질의 50 건 및 오디오 생성 3건

 

사용성

ChatGPT

 - 프로젝트 내 별도 세션 분리 및 챗 히스토리 관리

 - 위로 인해 별도의 참조문서가 없는 작업도 작업 그룹핑 용도로 효과적

 - 챗 히스토리가 메모리에 저장되며 답변에 지속적으로 반영

 - 단, 히스토리 반영의 경우 오답변 (환각) 까지 답변에 반영될 수 있어서 정리 필요

 

Notebook LM

 - 노트 내 별도 세션이 분리되지 않고 챗 히스토리는 휘발성으로 추정

 - 히스토리를 통한 작업관리가 안되며 별도의 메모 생성 및 저장 필요

 - 대신 다양한 요약 & 분석 도구를 제공하여 챗 히스토리보다 정제된 참고자료 생성 가능

 

RAG

ChatGPT

 - 체감상 RAG 성능은 떨어지는 편이며 고유명사의 혼동, 왜곡이 잦음

 - 문서 참조 시, 참고한 부분에 문서 제목만이 나타나며 별도의 추적 기능 없음. 이는 20건의 적은 문서 제한과 맞물려 RAG분석에 큰 장애 요소

 - 내부 청킹이 어떻게 이루어졌는지 추적 불가

 

Notebook LM

 - 참조문서별 요약 정보 제공

 - 체감상 RAG 성능이 좀 더 우수한 것으로 추정됨

 - 문서 참조 시, 참고한 부분이 링크로 달리며 클릭하면 해당 청크를 직접 확인 가능

 - 답변에서 참조된 청크를 확인하여 대략적인 청킹 특성 확인 가능