아이멤버 보안필터
상용 보안필터란?
그룹사 보안 필터가 적용된 상용 AI모델로 롯데 그룹사의 보안 정책 기반 금칙어, 민감정보 등을 차단하는 기능이 내장되어 상용 AI 서비스를 안전한 환경에서 이용할 수 있습니다.
보안 필터는 사용자의 프롬프트 입력 후 AI 모델에게 전송하기 전에 적용되어 있습니다.
Aimember 보안필터 목록
1.
NER 필터
개인정보(계좌번호, 아이디, 이메일, 전화번호, 주민번호 등)를 탐지 및 차단합니다.
2.
키워드 기반 필터:
금칙어를 지정해 비즈니스 상 민감정보(비밀, 대외비 등)를 탐지 및 차단합니다.
3.
개발 시 개발 언어 소스코드를 탐지 및 차단합니다
보안 필터 항목
세부 보안필터의 항목 및 내용은 다음과 같습니다.
1. NER 필터
NER은 개체명 인식 (Named Entity Recognition) 의 약어로 개인정보를 탐지 및 차단하고 있습니다. 임직원, 고객, 협력사의 개인정보 유출 우려를 최소화하기 위함입니다. (개인정보보호법에 의거)
1.
탐지: 특정 정보를 조합하여 개인을 특정할 수 있는 개인정보에 대해 탐지 메시지 표시
계좌번호, 신용카드, 아이디, 이메일 등 특정 정보를 조합하여 개인을 특정할 수 있는 개인정보에 대해 탐지 메시지
2.
차단:
전화번호, 주민번호, 여권번호 등 그 자체만으로 개인을 특정할 수 있는 개인정보는 메시지 전송 차단
2. 키워드 기반 필터
영업비밀 등 민감정보 등 그룹 및 계열사에서 자체 지정한 키워드를 바탕으로 필터링 하고 있습니다.
일반적으로 '해킹, 대외비, 기밀, 개인정보, 경영자료' 등 회사 기밀 및 개인정보와 관련된 데이터 전송 및 요청을 할 수 키워드들로 지정되어 있습니다. 미리 필터링 되어 있는 리스트를 바탕으로 탐지 및 차단을 하고 있으며 그룹사별 관리자 및 보안/정책 책임자가 관리하고 있습니다.
3. 소스 코드 검출 필터
2024년 8월, 상용 API (ChatGPT, Claude 등) 사용 시 소스 코드 유출 방지를 위한 보안필터를 강화하였습니다. 세부 내용은 아래 링크에서 확인 가능합니다.
소스코드 검출 보안필터는 무엇인가요?
상용 AI 모델 이용시 코드가 입력되면 탐지되거나 차단되도록 작동합니다.
•
코드 탐지: 짧은 코드의 경우, 코드가 탐지됨을 사용자에게 전달합니다.
•
코드 차단: 긴 코드의 경우, 내부 코드 유출로 판단하여 차단하고 있습니다.
코드 탐지는 코드가 학습된 자체 AI 모델로 진행됩니다
•
탐지 프로그래밍 언어: Python, Java, C, SQL 및 Docker 명령어 등
•
위 목록에 해당되지 않는 언어는 학습을 통해 지속 개선될 예정입니다.
작동 방식
보안필터가 작동될 경우, 다음과 같은 방식으로 작동됩니다.
1. 탐지
'탐지' 될 경우, 유의 메시지는 표시하되 AI의 답변 생성을 차단하진 않습니다.
아래 이미지와 같이 '보안 위험 키워드' 안내문 표시된다면 내가 생성형 AI를 통해 하고자 하는 작업이 그룹사 보안정책에 위반될 행위인지 검토 후에 생성형 AI를 유의하여 사용해주시길 바랍니다.
2. 차단
'차단'될 경우, 아래와 같이 차단 안내 메시지와 함께 생성형 AI의 답변을 차단합니다.
문의하기
혹시 개인정보 및 민감정보가 아닌데 잘못 차단된 경우가 있으신가요?
아이멤버 —> FAQ —> 문의하기 페이지로 문의를 남겨주시길 요청드립니다
보안필터 API 제공
보안필터 및 보안필터가 적용된 Secure Public AI에 대한 API를 제공하고 있습니다. API 키를 제공받아 사용하길 원하시는 경우, API 센터를 통해 문의해주세요.
Copyright (C) 2025 LOTTE INNOVATE. All Rights Reserved.