안녕하세요. 다름아니라 금융회사 GPT API 이용 관련해서 문의드립니다.
특히, 개인정보를 포함한 정보가 API를 통해 전달될 수도 있다고 하면, Open AI 회사의 서버가 국외에 있는 것으로 생각되다보니 개인정보보호법 제28조의8(개인정보의 국외 이전)에도 해당될 것 같고, 제17조(개인정보의 제공)에도 해당되는 부분일 것 같은데요. 외국계 기업이라는 인식이 있고, ChatGPT의 경우 이용자에게 어떤 답을 전달해서 정보가 유출될 지 모르니 많이 조심스러운 부분도 있긴 합니다. 따라서, 연동에 따른 문제가 있을 지 확인을 하고 싶은데 많이들 이용하고 계신지 궁금합니다.
관련하여 조언부탁드리겠습니다..
6개의 답변이 있습니다.
OpenAI는 ChatGPT는익명화된 데이터를 기반으로 작동하며, 사용자의 개인정보를 수집하지 않는다고 말하고 있습니다.
그리고, ChatGPT는 국외 서버이지만 이는 OpenAI의 클라우드 인프라를 사용하기 때문이고, ChatGPT와 관련된 데이터는 암호화되어 전송되며, 보안정책을 준수한다고 알려져 있습니다.
현재 공공, 민간 할 것 없이 ChatGPT가 화제가 되고 있고 수 많은 회사에서 활용방안을 모색하고 있는 것으로 알고 있습니다.
실제 도입 및 활용까지는 시간이 걸리겠지만 이미 사용하고 있는 금융기관 이나 공공, 민간 에서는 서비스하려고 하는 대상에 맞게 커스터마이징하여 서비스에 적용하고,
최근에는 보안 업체들도 기업들의 고민을 알고 개인정보를 차단하는 등의 솔루션을 개발하고, 레퍼런스도 있는 것으로 알고 있습니다.
따라서, 연동에 따른 문제는 ChatGPT에서 제공하는 API를 그대로 연동하여 사용하는 것이 아니라면 문제는 없을 것이라 조심스럽게 생각해 봅니다. 물론 관리적인 측면에서 본다면 사전에 사용법 등 교육에도 신경쓰셔야 할 것입니다.
또한, 사용자는 ChatGPT를 사용할 때 개인정보 및 민감정보를 공유하지 않도록 주의하고 개인정보 보호를 위해 적절한 조치를 스스로 해야 합니다.
공공쪽은 이미 금지됬고
금융은 어떨지 모르겠네요. 아마 외부연동은 금지할 겁니다.
기업내부 AI구축 서비스를 몇군데서 하고 있으니
자체 AI서비스를 구축하는 쪽으로 가겠죠.
(기존 학습된 AI + 내부 정보 추가 학습해서 프라이빗으로 구축해줌)
덕분에 좋은 정보 습득합니다.
결론은 서버가 있는 국가에서 데이터베이스가 개인정보 위반에 해당되지 않게 하면 되는게 아닌지
어차피 API 통해 가더라도 암호화 하실것 같은대
ChatGPT의 경우도 그렇고, CoPilot도 그렇고.
개인정보는 제공하지 않고 있습니다.
질문 내용에 개인정보가 들어가는 경우도 개인정보를 이용해서 처리는 하지 않고 있는 것으로 알고 있습니다.
개인정보 처리가 민감한 정보이다 보니, 개인정보는 대부분 처리 안하는 것으로 보이긴 합니다.
앞으로 어떻게 바뀔지 모르겠지만요.
ChatGPT가 고객에게 어떤 대답을 하게 될지, 그리고 산출하는 답변이 할로시네이션으로 인해 전혀 엉뚱한 답변을 할 수도 있기 때문에
ChatGPT를 업무용 참고 자료, 보조 자료 산출용도로는 도움이 될 수 있지만...
고객을 위한 대외적인 서비스에는 문제가 많아 보입니다.
최소한 특정 회사를 위한, 특정 업무에 한정된 답변만 할 수 있도록 커스터마이징이 가능해야 대외적인 고객 서비스에 사용 가능할 것이라 보여지고요.
Chat GPT에 사내 정보가 전달되는 경로라면...
ChatGPT 질문을 하는 프롬프트에 질문용 내용을 입력하는 것으로 인해 정보가 유출될 것이라 생각되고요.
질문을 위해서 사내 업무용 자료들을 입력해서 결과를 산출하는 과정에서 내부 문서가 OpenAI측에 전달될 수 있을 것이고...
ChatGPT가 이미 학습된 자료들을 기반으로 답변을 산출하고 있기 때문에 질문으로 전달된 자료들이 바로 학습되지는 않을 것이겠지만... OpenAI측으로 전달되어 쌓여 있는 자료들을 다음 ChatGPT 학습용 자료로 입력되지 않을 것이라는 보장은 하기 어렵다 보니...
내부 직원들이 ChatGPT에게 도움을 받기 위해 아무 생각없이 질문에 이용한 내부 기밀 자료들이 ChatGPT가 다음 학습에 활용되어 관련 질문에 답변으로 이용되게 된다면 심각한 상황이 생길 가능성이 있을 거라 생각되고요.
코파일럿이나 API를 이용하는 방식도 ChatGPT 프롬프트의 변형 형태에 해당하다 보니... ChatGPT 프롬프트를 통해서 사람이 문서를 입력하는 것과 유사한 결과 있을 수 있다고 보면 될 것 같네요.
ChatGPT는 사람이 인지를 하면서 질문을 하지만... 코파일럿이나 API는 자동으로 자료를 질문으로 넘기고 돌려 받은 결과를 가공해서 산출해 보여 주기 때문에 보안 관점에서는 사람이 수작업으로 프롬프트를 사용하는 ChatGPT 보다 더 위험하다 할 수 있을 것 같네요.
글 제목은 Open API인데 내용은 OpenAI이면... 챗GPT 개발한 OpenAI 말씀하시는거죠?
말씀하신 부분을 걱정하는 기업들한테 알맞은 솔루션이 MS Azure에서 제공하는 Azure OpenAI 서비스입니다. 아래 링크 한번 살펴보세요.
https://azure.microsoft.com/ko-kr/products/ai-services/openai-service#Features
아마 Azure 서비스를 제공하는 국내 MSP나 파트너사들이 Azure OpenAI 서비스도 제공할거에요.
뉴션 | 약 2달 전
답변 감사드립니다. Open API가 Open AI에서 제공하는 것 아니었나요..?
뉴션 | 약 2달 전
아 GPT API 이네요.. 확인 감사드립니다 :)
JohnWick | 약 2달 전
네 Open API라고 하셔서 일반적으로 통용되는 다양한 Open API를 말씀하시는 것으로 알았는데 내용 보니 챗GPT 개발한 OpenAI의 ChatGPT API 말씀하시는 것 같더라고요. 암튼 제가 알기론 말씀하신 것과 같은 고민을 가진 기업들이 많아 MS에서 기업만의 OpenAI 서비스를 내놓은게 Azure OpenAI라고 합니다.
잘 알아보시고 나중에 구축 추진하시게 되면 여기에 공유 좀 해주세요. 저도 궁금하네요. 아직 실 사례를 본적이 없어서 ㅎㅎ