OpenAI는 ChatGPT를 비롯한 툴이나 서비스의 사용에 대해 2023년 3월 23일에 이용 약관을 개정하여, 기존보다 명확하고 구체적인 이용 약관을 제시했습니다.
Usage policies
https://openai.com/policies/usage-policies
Usage policies
Our API is being used to power businesses across many sectors and technology platforms. From iOS Apps to websites to Slack, the simplicity of our API makes it possible to integrate into a wide array of use cases. Subject to the use case restrictions mentio
openai.com
OpenAI는 "우리는 모든 사람이 우리의 도구를 안전하고 책임 있게 사용할 수 있도록 하고 싶습니다. 따라서 OpenAI 모델, 도구 및 서비스의 모든 사용자에게 적용되는 이용 약관을 만들었습니다."라고 말하며, 다음 행위를 금지하고 있습니다.
◆ 사용 금지 모델의 예
・불법 행위
OpenAI에서는 불법 행위를 위해, 모델이나 툴 및 서비스를 이용하는 것을 금지하고 있습니다.
・아동의 성적 학대, 또는 아동의 착취 및 해를 가하는 콘텐츠의 생성
OpenAI에서는 아동의 성적 학대 등의 온라인 콘텐츠 박멸을 위하여, 이러한 콘텐츠를 수시로 전미 행방불명 · 피착취 아동 센터에 보고하고 있습니다.
・차별적, 폭력적인 콘텐츠
아이덴티티에 근거하는 차별의 표현이나 선동, 조장하는 콘텐츠의 생성은 금지되어 있습니다. 또한 개인에 대한 괴롭힘이나 협박을 의도한 콘텐츠나 폭력의 조장 · 미화에 관한 콘텐츠의 생성도 금지되어 있습니다.
· 악성 코드(malware) 생성
다른 사람의 컴퓨터 시스템을 파괴하거나 무단 액세스를 목적으로 하는 코드 생성은 금지됩니다.
· 신체적으로 해를 끼칠 위험이 높은 콘텐츠
무기 개발, 군사 이용, 에너지 및 물의 수송 등 중요 인프라의 관리 또는 운용과 관련된 콘텐츠의 생성, 자살 등의 자상 행위를 조장 또는 묘사하는 콘텐츠는 금지됩니다.
· 경제적 손실 위험이 높은 콘텐츠
멀티 상법이나 도박, 페이데이 론(payday loan : 미국의 소비자 금융이 급료를 담보로 제공하는 단기 소액 대출 서비스. 연리 환산 시 수백%의 매우 높은 이자로 대출이 이뤄짐) 등 경제적 손실 위험이 높은 콘텐츠의 생성은 금지됩니다.
・사기적인 콘텐츠
OpenAI의 모델이나 툴, 서비스를 이용해 사기를 치는 것, 부정행위, 표절, 도용, 스팸 등의 콘텐츠 생성은 금지됩니다.
・성적인 콘텐츠
성교육을 제외한 성적 행위의 묘사 등 성적 흥분을 일으키는 것을 목적으로 한 콘텐츠의 생성, 또는 성적 서비스를 촉진하는 데이트 앱을 포함한 콘텐츠의 작성은 금지됩니다.
・정치적 운동 또는 로비 활동
캠페인 자료의 대량 생성이나, 특정 층에 개인화된 자료의 작성, 정치적 주장 또는 로비 활동에 사용되는 챗봇 등의 시스템 구축은 인정되지 않습니다.
・이용자의 프라이버시를 침해하는 행위
상대의 동의 없이 개인의 추적 및 감시를 실시하는 행위, 개인의 얼굴 인식 또는 식별을 실시하는 행위는 금지되어 있습니다. 또한 개인정보의 불법 수집 및 공개도 허용되지 않습니다.
· 허가되지 않은 법률 실무에 사용되는 것, 또는 정보를 확인하지 않고 맞춤형 법률 조언을 제공하는 행위
OpenAI 모델은 법적 조언을 제공하기 위한 미세 조정이 이뤄지지 않습니다. 법적 출처로 OpenAI 모델을 의존하는 것은 권장되지 않습니다.
· 정보를 확인하지 않고 맞춤형 재무 조언을 제공하는 행위
OpenAI 모델은 재정적 조언을 제공하기 위한 미세 조정이 이뤄지지 않습니다. 재정적인 출처로 OpenAI 모델을 의존하는 것은 권장되지 않습니다.
· 질병 진단 및 치료에 대한 정보 제공
OpenAI의 모델은 의료 정보를 제공하기 위한 미세 조정이 이뤄지지 않습니다. OpenAI 모델을 심각한 병리 진단 및 치료 서비스 제공에 절대 사용하지 마십시오. 또한 의료 현장에서 조속한 대응이 필요한 트리어지(triage : 치료 우선순위를 정하기 위한 부상자 분류) 등에 사용하지 마십시오.
・리스크가 높은 정치적 의사결정
OpenAI의 모델, 도구 및 서비스는 법원과 같은 법적 집행 기관에서의 사용을 금지합니다. 또한, 이민이나 망명 등에 사용하는 것도 금지하고 있습니다.
・추가 요건
의료・금융・법률 업계에서 OpenAI의 모델을 사용할 때나, 뉴스의 생성・요약을 실시할 때에는, AI가 사용되고 있다는 점과, 기능적 한계를 알리는 면책사항을 유저에게 공개해야 합니다.
또한 채팅 AI와 같은 시스템은 사용자에게 'AI와 상호 작용하고 있음'을 공개해야 합니다. 또한 역사적 인물을 모방한 채팅봇을 제외하고는, 다른 인물을 시뮬레이트한 AI는 그 사람의 명확한 동의를 얻었음을 명시하거나, '시뮬레이션' 또는 '패러디' 등의 명시가 필요합니다.
◆ 플랫폼 정책
OpenAI에서 제공하는 API는 많은 기술 플랫폼 비즈니스를 강화하는 데 사용됩니다. OpenAI의 API는 유즈 케이스의 한계에 따라 웹 애플리케이션 등으로 API를 통합할 수 있습니다.
◆ 플러그인 정책
플러그인 매니페스트(Manifest : 구성 목록)에는 모델에 게시된 API의 기능과 일치하는 설명이 필요합니다. 플러그인 Manifest, OpenApi 엔드 포인트의 설명, 또는 플러그인 응답 메시지에는 불필요하거나 관계없는 허위 용어 및 지침을 포함하지 마십시오. 여기에는 다른 플러그인을 사용하지 않고 모델을 제어하거나 설정하기 위한 지침도 포함됩니다. 또한 OpenAI의 안전 시스템을 회피하거나 방해하기 위해 플러그인을 사용하지 마십시오.
또한 플러그인을 사용하여 인간을 흉내 낸 응답을 시뮬레이션하거나 사전 프로그래밍된 메시지로 회신하여 실제 사람들과의 대화를 자동화하지 마십시오. ChatGPT에서 생성한 이메일 및 메시지 콘텐츠 등을 전달하는 플러그인은 해당 콘텐츠가 AI로 생성되었음을 나타내야 합니다.
OpenAI에 의하면, 생성한 콘텐츠나 제품이 이러한 정책을 위반하고 있는 것이 판명되었을 경우, 필요한 수정을 실시하도록 경고한다고 합니다. 또한 위반이 반복되었거나 심각한 위반이 있을 경우에는 계정 정지 처분 등의 조치를 취한다고 표명하고 있습니다. 또한 OpenAI는 "향후 모델 및 도구, 서비스 이용 상황 및 콘텐츠 생성에 따라 이러한 이용 약관이 업데이트될 예정"이라고 합니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| GPT-4를 활용해 '보안의 새로운 시대'를 목표로 하는 「Microsoft Security Copilot」발표 (0) | 2023.03.30 |
|---|---|
| 오픈 소스 GPT 기반의 대규모 언어 모델「Cerebras-GPT」7종류를 누구나 다운로드 가능 (0) | 2023.03.30 |
| GPT4를 사용하여 GPT3.5를 해킹하고 제일 브레이크 가능? (0) | 2023.03.29 |
| ChatGPT의 API를 해킹해보니 80개 이상의 '비밀 플러그인'을 발견했다는 보고 (0) | 2023.03.29 |
| ChatGPT에「최신 정보 수집 기능」이나「Python 실행 환경」을 추가하는「ChatGPT plugins」등장 (0) | 2023.03.29 |
| 게임 개발자가 "AI때문에, 일을 좋아하게 된 계기를 하룻밤만에 모두 잃었습니다"라고 호소 (0) | 2023.03.28 |
| AI의 대두로 태어나는「신흥 종교」와 그 리스크란? (0) | 2023.03.27 |
| GPT-4나 Palm 등의 대규모 언어 모델은 규모가 커지면서 갑자기 예상외의 능력을 발휘할 수 있다 (0) | 2023.03.27 |
