안녕하세요
저희 회사에서 DLP 도입을 검토하고 있는데,
혹시 요즘 이슈가 되는 Chat GPT에 어떤 정보가 올라가는 것(예를 들어 특정 키워드)을 DLP가 감지해서 차단할 수 있을까요?
(파일 첨부시 차단은 가능하겠지만, 채팅상에서 텍스트로 올렸을 경우가 우려되어 질문드립니다.)
Chat GPT 관련 문의(DLP)
안녕하세요
저희 회사에서 DLP 도입을 검토하고 있는데,
혹시 요즘 이슈가 되는 Chat GPT에 어떤 정보가 올라가는 것(예를 들어 특정 키워드)을 DLP가 감지해서 차단할 수 있을까요?
(파일 첨부시 차단은 가능하겠지만, 채팅상에서 텍스트로 올렸을 경우가 우려되어 질문드립니다.)
7개의 답변이 있습니다.
키워드로 막는건 DLP만으로는 부족할 듯 합니다.
이에 앞서 중요파일들은 보안을 이중 삼중으로 구축하는 방안을 검토해 보세요
그래도 일단 키워드 중심으로 막는게 좋아보이네요
최근 ip나 특정 내부 문구를 chatgpt로 검색 했을경
우 chatgpt가 내부 문구가 저장되어 비슷한 문구를
검색 했을때 내부문구를 그대로 표기 되더라구요
특정 키워드를 막는 의미가 있을까요?
전산인 | 약 일 년 전
안녕하세요
저희 회사 특성상 특정 키워드가 올라 가는 것을 막을 필요가 있어서요
삼성전자도 그렇고 관련해서 이슈가 있다보니 여쭤봤습니다.
최근에 모 대형 회사가 chat관련 이야기가 있었던거로 아는데
기본적으론 원천봉쇄 (openai쪽으 트래픽 등등...)
사용을 위해서는 별도의 보안서약서를 작성하고 개방, 개방조건은 폐쇄망등 특정 클라이언트에서만 이용 가능 등으로 하시는게 맞아 보입니다.
특정 키워드가 아니고, 해당 클라이언트(VDI) 사용 트래픽은 전체 기록형태가 됨을 사전고지하여 불필요한 정보 노출이 안되도록 하시는게 필요할겁니다.
낭만생선 | 약 일 년 전
논문이나 과제 제출시 Chat gpt 사용을 막거나 이를 거르려는 노력을 하는 대학들이나
원천 봉쇄를 하려는 회사들이나..
왠지 컴퓨터의 계산기 어플을 지우고 주판 쓰라고 하는 느낌적 느낌이네요.
api 를 이용하는 3rd 파티도 부지기수로 늘고 있어서 텍스트까지 커버하기는 어렵겠네요;;
폐쇄망을 쓰지 않는 이상...
ChatGPT를 사용하는 방식이 웹으로 사용하거나 Open API를 호출하는 방식이 아닐까 싶은데요.
사용하는 컴퓨터에서 OpenAPI가 있는 서버 사이에 주고 받는 데이터를 열어서 어떤 내용인지 확인할 수 있냐 없냐로 특정 키워드가 빠져 나가는지 여부를 검출해 낼 수 있을 거라 생각되는데...
데이터를 열어서 내용을 확인할 수 있냐 없냐 하는 것은 지나가는 데이터의 암호화 여부에 의해 결정되는거라 생각되고요.
평문으로 전달되는 데이터라면 네트워크 트래픽 캡쳐 툴이나 방화벽에서 기능을 지원한다면 가능하지 않을까 싶어 보이고...
암호화 되었더라도 HTTPS는 일부 솔루션에서 복호화해서 원문을 꺼집어 내어 확인 가능한 걸로 알고 있고요.
중간 전달되는 자료의 암호화 여부와 암호화를 어떻게 했냐에 따라 차이가 있을 거라 생각되고요.
chatGPT와의 연동을 제공해 주는 솔루션 업체에 해당 내용을 요청하면 해결할 수 있지 않을까 싶어 보이네요.
자체 기술로 연동을 한다면 연동을 위한 인터페이스 프로그램을 개발하면서 걸러내어야할 키워드들을 처리할 수 있게 만들면 될거라 생각되고요.
특정 키워드를 걸수는 있을것 같은데
그렇게 까지 하실 정도면 시스템에서 모니터링이나 막는것도 중요하지만
징벌 규정을 강화하고 이를 홍보나 시범으로 위반자를 처벌하는게 월씬더 큰 효과를 보실수 있습니다.
규정과 교육을 병행해서 하면 100만원 들것을 기술적으로만 막으려고 하면 그게 되지도 않지만
비용도 너무 많이 들게 됩니다.