ChatGPT의 위험성: 훌륭한 개인화 도구인가, 훌륭한 피싱 기술인가?

OpenAI의 ChatGPT는 전 세계를 강타했습니다.

이미 사용해 본 수백만 명의 사람들과는 별도로 이메일 서비스 제공업체(ESP)는 매우 효과적인 이메일 제목과 콘텐츠를 생성하기 위해 캠페인 데이터를 사용하여 교육하고 있습니다.

Salesforce 사용자는 ChatGPT가 수식 및 확인 규칙을 만드는 방법을 탐색하고 있습니다. 그리고 Microsoft는 이제 이를 Bing 검색 엔진에 통합했습니다. 이미 잠재적인 "Google 킬러"라는 이야기가 있습니다!

그렇다면 신기술은 어떻게 작동할까요?

ChatGPT(Generative Pre-trained Transformer)는 딥 러닝 기술을 사용하여 테라바이트의 웹 데이터(수십억단어 포함)를 처리하여 사용자의 프롬프트 또는 질문에 대한 답변을 생성합니다.

상호 작용은 사람과 대화하는 것과 같습니다. 많은 사람들은 ChatGPT가 튜링 테스트를 통과한 최초의 AI 애플리케이션이라고 말합니다. 즉, 인간과 동등하거나 구별할 수 없는 지능적인 행동을 보인다는 의미입니다.

우리는 이미 눈길을 끄는 몇 가지 사용 사례를 보았습니다.

• 영국의 Times 신문은 ChatGPT를 사용하여 일간 사설을 작성한 다음 독자들에게 어떤 콘텐츠가 기계로 작성되었는지 확인하도록 요청했습니다. 대부분은 할 수 없었습니다!
• 온라인 인사말 카드 판매업체인 Moonpig는 ChatGPT를 시스템에 통합하는 것을 고려하고 있습니다. 고객은 올바른 단어를 찾기 위해 머리를 긁적일 필요 없이 개인화된 메시지나 시를 생성하도록 요청할 수 있습니다.

ChatGPT는 게임 체인저가 될 수 있는 혁신과 생산성을 가능하게 하여 웹 자체의 생성에 필적합니다. 그러나 모든 동전에는 양면이 있습니다. 이 새로운 기술에 잠재적인 어두운 면이 있습니까?

ChatGPT가 사이버 보안 공격자와 방어자 모두에게 새로운 기회를 창출하는 방법을 살펴보겠습니다.

더 나은 피싱 시도

연구원들은 이미 사이버 범죄 포럼 에 게시된 AI 생성 코드를 보고 있습니다 . "어두운 면"의 ChatGPT 사용 사례 중 하나는 특정 개인, 조직 또는 비즈니스를 의도적으로 대상으로 하는 이메일 사기인 스피어 피싱입니다. 이 전술을 사용하여 사기꾼은 악의적인 목적으로 데이터를 훔치거나 대상 컴퓨터에 맬웨어를 설치할 수 있습니다.

일반적인 예에서 회사의 직원은 "CEO"로부터 링크된 문서에 기여하거나 첨부 파일을 읽어 달라는 긴급 요청이 포함된 이메일을 받을 수 있습니다. 일반적으로 예상할 수 있는 요청과 짝을 이룬 친숙한 이름은 타당성과 응답 가능성을 높입니다.

실제로 최근 Royal Mail 랜섬웨어 공격이 스피어 피싱 이메일에서 시작되었을 가능성이 전적으로 있습니다.

ChatGPT는 지명된 사람의 스타일로 콘텐츠를 생산할 수 있기 때문에 곧 스피어 피싱 이메일이더욱설득력을 갖게 될 것입니다. 사기꾼은 이제 대상의 CEO처럼 들리는 콘텐츠를 요청할 수 있으므로 메시지를 더욱 사실적으로 만들고 직원이 속을 확률을 극대화할 수 있습니다.

반사회 공학

ChatGPT는 특히 신뢰를 구축해야 하는 경우 다른 형태의 사칭 사기를 강화할 수도 있습니다.

사기꾼은 ChatGPT를 사용하여 은행 직원, 경찰관, 세무 공무원(피해자에게 미결제 청구서가 있다고 말함) 또는 서비스 제공업체 담당자(피해자의 라우터가 해킹당했으며 컴퓨터에 원격 액세스가 필요하다고 주장함)로 위장할 수 있습니다. 문제를 해결하기 위해).

점점 일반적인 예는 "해외"에 있는 친구나 가족의 메시지와 관련이 있습니다. 그들은 일반적으로 지갑과 휴대폰을 도난 당했고 누군가가 긴급 자금을 요청하기 위해 다른 휴대폰을 빌려주었다고 말할 것입니다.

오리지널 콘텐츠의 죽음

많은 교육자들은 ChatGPT가 학생들이 또 다른 에세이를 쓸 필요가 없다는 것을 의미한다는 것을 극도로 우려합니다.

일부는 이미 이를 테스트하여 AI 가 생성한 기사를 제출하고 신뢰할 수 있는 통과 점수를 받았습니다(클래스 1등이 아니어도 괜찮다는 전제 하에). 교육자들은 AI가 대량 부정 행위로 이어질 것을 심각하게 우려하고 있으며 일부 학교는 이에 대한 대응으로 이미 숙제 에세이에서 멀어지고 있습니다.

개인 정보 보호 문제

ChatGPT는 웹 우주 망원경(HIP 65426 b)으로 처음 촬영된 행성을 알 수 있습니다. 그러나 이 데이터를 소싱하는 방식은 GDPR(일반 데이터 보호 규정 ) 및 CCPA(캘리포니아 소비자 개인 정보 보호법)와 같은 새로운 개인 정보 보호법과 충돌할 수 있습니다.

이미지 스크래핑을 사용하여 안면 인식 데이터베이스를 구축한 Clearview AI 사례는 범유럽 규제 기관으로부터 수백만 달러의 벌금으로 끝났습니다.

ChatGPT가 작동하는 방식은 완전히 동일하지 않습니다. 원래 재료를 더 이상 인식할 수 없는 데이터용 식품 혼합기와 비슷합니다. 그러나 개인이 자신의 데이터를 이런 방식으로 사용하도록의도했는지에 대한 질문은 여전히 ​​있을 것입니다 .

저작권 침해가 더 가능성이 높은 시나리오입니다. 미국에서는 AI 아트 제너레이터 Stable Diffusion의 개발사 Stability AI를 상대로 집단 소송이 제기됐다. 검찰은 원본 이미지 소유자의 권리를 침해했다고 주장했다.

그리고 영국에 기반을 둔 사진 및 예술 라이브러리인 Getty Images는 라이센스 없이 이미지를 사용하는 것에 대해 Stable Diffusion을 고소할 것이라고 말했습니다.

GPT = 오늘 보호받기

이러한 시나리오는 다소 종말론적으로 들릴 수 있지만 안전 장치로 사용할 수 있는 확립된 모범 사례가 있습니다.

• 경계는 항상 첫 번째 방어선입니다. 은행과 경찰은 카드 정보, PIN 또는 인터넷 뱅킹 비밀번호를 절대 요구하지 않습니다. 따라서 유사한 요청에 대해 매우 회의적입니다.
• 이메일을 수신할 때 합법적인 발신자만 가지고 있는 데이터를 확인하십시오. 이것이 은행이 종종 메시지의 일부로 우편번호를 포함하는 이유입니다. 기본 인증 프로토콜(DMARC)이 이메일이 확인된 발신자로부터 온 것임을 확인하므로 BIMI(메시지 인증용 브랜드 지표 사용)도 여기에서 중요한 역할을 합니다.
• 직장에서는 조직 외부에서 온 전자 메일을 강조 표시하는 규칙을 구현합니다. CEO가 보낸 이메일이라고 주장하지만 "외부"로 시작하는 이메일은 즉각적인 위험 신호입니다.

AI로 작성된 콘텐츠를 식별하는 방법

우리는 또한 AI로 작성된 콘텐츠를 식별하는 데 도움이 되는 새로운 전술이 등장하는 것을 보고 있습니다. 예를 들어 GPTZero 와 같은 도구는 교사와 강사가 학생의 에세이가 기계로 작성되었는지 판단하는 데 도움이 되도록 개발되었습니다.

또한 OpenAI가 ChatGPT에서 가져온 텍스트에 워터마크를 삽입할 것이라는 예측도 있습니다.

또한 개인은 생성 AI가 사용할 수 있는 데이터를 보호하는 방법에 대해 더 창의적이 될 것입니다. 록 밴드 반 할렌(Van Halen)이 콘서트 요건의 일부로 갈색 그릇을 제거한 M&M 그릇을 요구한 유명한 이야기가 있습니다. 비평가들은 그들이 명성을 얻고 있다고 비난했습니다. 그런 다음 그들의 가수 David Lee Roth는 이것이 이벤트 프로모터(중요한 안전 요구 사항이 있는)와의 계약을 완전히 읽었는지 확인하기 위한 것이라고 설명했습니다.

사람들이 웹에서 자신에 대한 잘못된 "사실"을 퍼뜨리기 시작할 수 있습니다(안티스팸 벤더가 깨끗한 스팸 트랩을 배포하는 방법과 유사).

예를 들어 블로그에 내가 호주에서 자랐다고 말할 수 있습니다. (실제로는 남아프리카 공화국이었습니다.) 저를 아는 사람이라면 누구나 호주 언급이 사실이 아님을 알게 될 것이며 나중에 저에 대한 콘텐츠에 사용된다면 위험 신호가 될 것입니다!

AI는 여전히 선을 위한 힘입니다.

이 게시물에서 설명한 우려 사항에도 불구하고 이 AI 혁명의 전반적인 영향은 압도적으로 긍정적이어야 합니다.

그것은 자동차나 컴퓨터와 같은 다른 중요한 발명품과 비교할 수 있습니다. 직업은 변하겠지만(인생도 마찬가지) 새로운 직업이 등장할 것입니다. 특히 AI 개발 및 배치와 관련된 분야에서 그렇습니다. 아마도 가장 중요한 것은 생산성이 향상된다는 것입니다.

제너레이티브 AI가 마케팅 세계에 어떻게 기여할 것인지에 대한 우리의 예측을 듣고 싶으십니까? 이러한 기회에 대해 자세히 알아보는 최신 이메일 라이브 상태 웨비나를 확인하십시오 .

그리고 귀하의 묻지 않은 질문에 대한 답변으로 저는 이 기사를 작성하기 위해 ChatGPT를 사용하지 않았습니다!