롯데의 생성형AI 서비스 롯데 GPT에 대해 알아볼까요? 롯데 GPT는 이노베이트에서 자체 구축한 Foundation 모델로 지속적인 그룹 데이터 학습을 통해 고도화 되며 정확도 높은 정보를 제공할 수 있습니다.
롯데 GPT 활용 가이드
1. 아이멤버 Chat (롯데GPT)?
소개
아이멤버Chat (롯데GPT)는 롯데가 보유한 고품질의 데이터 기반으로 파운데이션 모델을 학습시켜 탄생한 롯데이노베이트가 자체 개발 대형 언어모델 입니다. 유통, 서비스, 인프라 등 전 산업군에서 롯데의 풍부한 데이터 바탕으로 고객사의 다양한 산업 분야에 적용 가능한 대화형 AI 플랫폼을 제공하며, 이를 통해 고객사의 서비스 개선 및 고객 만족도를 높여주는 등의 기능을 제공하고 있습니다.
2. 롯데GPT 대화 시작하기
언어 모델 선택에서 롯데GPT를 선택하고, 대화를 시작해주세요.
3. 답변 스타일 설정하기
롯데 GPT와 대화할 때 모든 대화에 적용하고자 하는 답변 포맷을 설정할 수 있습니다.
특정 어조나 스타일, 또는 페르소나를 지정하는 등 다채로운 답변이 가능합니다.
① 롯데GPT 설정하기
•
좌측 하단 [롯데 GPT 설정하기 >] 버튼을 클릭해주세요.
② 원하는 롯데GPT 답변 스타일
•
답변 스타일에 입력된 항목은 롯데 GPT가 답변 생성 시 참고하는 내용입니다.
•
'27세 신입사원' 또는 '10년차 마케팅 전문가' 등의 페르소나 또는 특정 출력 방식 등을 입력하여 반복적인 프롬프트 입력을 줄일 수 있습니다.
③ 예시 텍스트 보기
•
롯데 GPT 답변 스타일에 대한 예시 텍스트를 제공하여 어떤 방식으로 항목을 입력해야할지 확인할 수 있습니다.
[FAQ] 롯데 GPT, 자주 하는 질문
•
Q. 롯데GPT는 상용 AI과 어떻게 다른가요?
◦
롯데GPT는 롯데의 자체 데이터셋으로 추가 학습한 대형 언어모델로써, 상용 AI에 비해 빠른 속도를 자랑하며 롯데에 대한 데이터를 추가 학습하여 롯데에 대해 제일 잘 알고 있습니다.
◦
또한 롯데이노베이트에서 직접 개발하고 유지보수하여 잘못된 LLM의 답변에 대해 빠르게 수정할 수 있습니다.
◦
아이멤버 내 ChatGPT와 다르게 부가 기능들도 제공하고 있습니다
▪
빠른 성능의 대형 언어모델을 이용하고 싶을 때
▪
롯데에 대한 정확한 정보에 대한 답변을 얻고 싶을때 (계열사 정보 등)
▪
웹 검색 기반으로 답변을 기반으로 질의에 대한 답변을 얻고 싶을 때
▪
상용 AI 대비 더 긴 질의를 입력하고 싶을 때
▪
텍스트 대화와 함께 이미지를 생성하고 싶을 때
•
Q. 롯데 GPT는 어떨때 활용하면 좋은가요?
◦
롯데 GPT는 다음의 경우 활용하면 좋습니다.
▪
빠른 성능의 대형 언어모델을 이용하고 싶을 때
▪
롯데에 대한 정확한 정보에 대한 답변을 얻고 싶을때 (계열사 정보 등)
▪
웹 검색 기반으로 답변을 기반으로 질의에 대한 답변을 얻고 싶을 때
▪
상용 AI 대비 더 긴 질의를 입력하고 싶을 때
▪
텍스트 대화와 함께 이미지를 생성하고 싶을 때
•
Q. 정확하지 않은 답변이 나왔어요. 왜 그런가요?
◦
생성형 인공지능 특성상 정확하지 않은 답변을 맞는 것처럼 답변하는 '할루시네이션(Hallucination, 환각증상)'이 발생할 수 있습니다.
▪
할루시네이션 현상은 생성형 인공지능의 근본적인 한계로 롯데 GPT 뿐만 아니라 ChatGPT를 비롯한 모든 생성형 AI가 공통적으로 갖고 있는 근본적 한계입니다.
•
생성형 인공지능은 사전에 학습된 지식 및 주어진 문서들을 토대로 사용자에 대한 답변을 생성하는데, 애초에 '확률 기반'으로 답변을 생성합니다. 인간은 문서나 지식을 학습할 때 '맥락'과 '연결성' 위주로 받아들이지만, 생성형 AI는 학습된 데이터들을 바탕으로 '확률 기반'으로 생성하기 때문에, 잘못된 데이터가 학습되면 환각증상이 발생할 수 있습니다.
▪
할루시네이션을 줄이기 위해서는 (1) 모델의 학습 데이터 개선, (2) 데이터의 품질 개선, (3) 입력 프롬프트 (질문) 개선 등의 방법이 있습니다.
◦
내부적으로 추가 데이터 학습을 통해 모델을 개선하여 할루시네이션을 줄이기 위해 노력하고 있습니다.
▪
부정확한 답변 생성 시 우측 상단 [고객센터 → 문의하기] 메뉴를 통해 요청할 수 있습니다. (예시: 특정 계열사에 대한 질의에 대한 부정확한 정보)
•
Q. 우리 계열사에 대한 질문을 하니 다양한 답변과 데이터를 제공해줬어요. 이 데이터의 출처는 어떻게 되나요?
◦
검색 기능 OFF 시 매출액은 DART (전자공시시스템)을 통해 가져옵니다.
▪
DART에 존재하지 않는 데이터는 할루네이션입니다.
◦
검색 기능 ON 시 웹 검색 기반 (네이버 or 다음 검색)으로 답변을 제공합니다.
•
Q. 롯데 GPT가 실시간 데이터를 제공했는데 자꾸 잘못된 정보를 제공해줘요.
◦
롯데 GPT는 실시간 데이터를 제공해줄 수 없습니다. 할루시네이션 현상입니다.
•
Q. 롯데gpt의 기억력은 얼마나 오래가나요? 다시말해, 멀티턴(Multi-turn) 대화가 가능하며, 앞선 대화의 맥락을 얼마나 오래 유지하나요?