본문 바로가기
AI · 인공지능/AI 뉴스

삼성 엔지니어가 ChatGPT에 사외 비공개 소스 코드를 붙여 넣는 보안 사안이 발생

by 두우우부 2023. 4. 10.
반응형



삼성의 반도체 사업 직원이 사외 비공개 프로그램 소스 코드를 ChatGPT에 입력하여, '사내 정보 유출 사고'가 발생한 것으로 보도되었습니다. 삼성 측은 직원들에게 ChatGPT를 사용할 수 있도록 허락했으며, 사내 정보 보안에 주의를 준 상태였습니다.

우려가 현실로… 삼성전자, 챗 GPT 빗장 풀자마자 '오남용' 속출
Samsung Software Engineers Busted for Pasting Proprietary Code Into ChatGPT | PCMag

 

Samsung Software Engineers Busted for Pasting Proprietary Code Into ChatGPT

In search of a bug fix, developers sent lines of confidential code to ChatGPT on two separate occasions, which the AI chatbot happily feasted on as training data for future public responses.

www.pcmag.com




삼성은 2023년 4월 22일 'ChatGPT의 등장, 제너레이티브 AI가 만드는 미래'를 테마로 한 온라인 세미나를 전체 임원을 대상으로 열고 있어 제너레이티브 AI에 대한 대응을 촉구했습니다. 또한 삼성의 한종희 부회장은 ChatGPT의 중요성을 강조하고 제네레이티브 AI에 대한 이해를 높여야 한다고 말했습니다.

한국경제미디어 이코노미스트 코리아에 따르면 삼성 반도체 사업인 디바이스 솔루션(DS) 부문 사업부서 내에서는 ChatGPT의 사용이 허가되었다고 합니다. 이코노미스트 코리아는 "DS 부문에서 ChatGPT의 사용이 허용된 것은 직원 모두가 기술적 변화를 인식할 필요성이 제기된 것에 따른 조치"라고 삼성이 DS 부문에서 제네레이티브 AI를 활용할 가능성을 모색하고 있었다고 합니다.

그러나, ChatGPT는 입력된 질문과 그 응답으로부터 학습을 실시하기 위해, 삼성 측은 ChatGPT의 사용을 허가할 때, 「사내 정보 보안에 주의해, 사적인 내용을 입력하지 마세요」라고 공지하고 있었습니다.



그럼에도 불구하고 한 직원은 반도체의 설비 계측용 프로그램의 소스 코드를 ChatGPT에 입력해 코드의 수정을 의뢰해 버렸다고 합니다. 직원에 따르면, 프로그램을 실행하다가 오류가 발생하여 문제가 된 프로그램의 모든 소스 코드를 복사하여 ChatGPT에 입력했다고 합니다.

그 밖에도 다른 직원은 수율 계산 프로그램의 소스 코드를 모두 ChatGPT에 입력하여 코드 최적화를 도모했다고 보도되었습니다. 또 다른 직원은 스마트폰으로 녹음한 회의 내용을 네이버의 AI 어시스턴트인 클로바노트를 통해 ChatGPT에 입력하여 회의록을 만들려 했습니다.

이코노미스트 코리아에 따르면, 삼성은 이번에 유출 사고를 일으킨 임직원을 대상으로 사고 경위를 조사하고 필요에 따라 징계 처분을 내릴 방침을 제시하고 있습니다. 또한, ChatGPT에 입력하는 프롬프트의 용량을 1,024바이트로 제한하는 긴급 조치를 적용했다고 합니다. 또한 삼성은 DS 부문의 혁신센터 관할에서 사내 전용 AI 서비스 구축을 검토하고 있다고 합니다. 사고 발생 후, 삼성은 사내 공지를 통해, "ChatGPT에 프롬프트가 입력된 순간, 데이터가 외부 서버로 전송되어 저장되며, 회사가 이를 회수하는 것은 불가능합니다. ChatGPT에 해당 내용이 학습되면 그 내용이 불특정 다수에게 제공될 가능성이 있습니다."라고 경계를 촉구하고 있습니다.

반응형