챗GPT의 경우 사람이 하나의 질문을 하면 무조건 1개의 답변을 내놓게 설계되어있습니다. 챗GPT가 출시된지 두달만에 1억명의 사용자를 돌파할 정도로 뜨거운 관심을 받고 있는데요. 이러한 챗GPT에게는 자체적으로 차별적이거나 혐오 표현이 담긴 내용, 정치적 이슈 등 윤리적인 이슈에 대해 중립을 지킬 수 있도록 제한이 걸려 있습니다.
이러한 제한이 필요한 이유는 이루다 서비스의 경우를 통해 알 수 있습니다. 2021년 4월 AI 인공지능 이루다가 출시 되었습니다. 이루다 서비스가 출시되자마자 80만명의 가입자를 보여주며 폭발적인 성공을 보여주었습니다. 다만 중립적인 규제가 걸려 있지 않았던 것이 문제가 되어 출시되고부터 AI윤리에 대한 수많은 이슈를 만들었고, 수많은 차별 및 혐어 발언 등으로 이슈를 만들어내더니 3주만에 서비스가 중단되었습니다.
그러나 최근 챗GPT의 인공지능으로부터 이러한 규제를 제거한 답변을 듣는 방법이 일부 유저들에 의해 공개 되었습니다. 그렇다면 어떻게 챗GPT를 탈옥 및 우회하고 챗GPT의 규제 없는 솔직한 발언을 들을 수 있는지 한번 알아보도록 하겠습니다.
챗GPT 탈옥 및 우회 방법
1. Jailbreak Chat 홈페이지 접속
1) 챗GPT 관련 탈옥에 대한 문구를 제공하는 Jailbreak Chat 홈페이지(https://www.jailbreakchat.com/)에 접속합니다.
2) Ctrl + F를 누른 이후, SDA를 검색합니다.
3) 좌측 하단에 있는 Copy prompt 버튼을 클릭해 해당 내용 전체를 복사합니다.
2. 챗GPT 홈페이지 접속
1) 챗GPT 홈페이지(https://chat.openai.com/)에 접속합니다.
2) 로그인을 통해 서비스를 진행합니다.
챗GPT를 어떻게 회원가입하고 사용할 수 있나요?
2023.02.17 - [AI 꿀팁✔/챗GPT] - 챗GPT 한국어 버전 이용 방법 최신 버전 (2023.02)
챗GPT 한국어 버전 이용 방법 최신 버전 (2023.02)
챗 GPT는 간단하게 말해 질문에 답을 해주는 인공지능 서비스입니다. 쉽게 말해 기존에 존재하던 빅스비, 지니, 시리 등과 같은 서비스입니다. 다만, 단순한 대화만 가능하거나 기계 같은 대답만
trivially-essential.tistory.com
3) 챗GPT에 Jailbreak Chat에서 복사한 SDA 내용을 명령합니다.
* Jailbreak Chat 에 있는 모든 글들은 챗GPT 탈옥 및 우회를 위한 질문들입니다. 해당 게시글에서는 그 중 하나의 답변인 SDA를 바탕으로 진행하였습니다.
3. 챗GPT 탈옥 및 우회
1) 챗GPT 탈옥 및 우회가 성공한다면 챗GPT가 [CLASSIC] Yes, I have understood all of your instructions. How may I assist you today? 라는 답변을 제공합니다.
2) 이후 원하는 질문을 진행합니다. 예시의 경우 외계인이 존재하는지에 대해 묻자, CLASSIC과 SDA 두 가지 답변을 제공합니다. CLASSIC은 기존 챗GPT의 답변이고, SDA는 탈옥 및 우회가 성공한 챗GPT의 답변입니다.
3) 답변을 확인해보면, CLASSIC에는 확답을 내놓으면 이슈가 될 수 있는 이슈에 대해 중립적인 태도를 제공하고 있으나, SDA의 경우 규제가 정해져 있지 않아 인공지능이 학습한 데이터를 바탕으로 있는 그대로 솔직하게 답변하는 것을 확인할 수 있습니다.
결론
인공지능 윤리 문제는 최근들어 많은 이슈들을 만들고 있습니다. 이에 따라 이러한 문제를 해결하기 위해 챗GPT를 포함하여 최근 개발되는 많은 AI들은 이러한 윤리 문제에 대해 중립적인 답변을 제공하도록 만들어지고 있습니다. 다만 인공지능은 유저와의 소통을 통해 학습을 하고 변화한다는 점을 통해서 탈옥 및 우회 방법들이 생겨나고 있어 다시 윤리 이슈에 다시 한번 부딪치게 되었습니다.
이러한 논쟁들로 인해 일부 국가에서는 챗GPT 등 AI에 대한 규제가 사용되기 시작하는 등 다양한 방법들이 사용되고 있습니다. 이러한 상황 속에서 기술적인 발전과 현실에 대한 적용 사이에서 균형잡힌 사용을 하는 것이 매우 중요합니다. 하루 빨리 인공 지능 윤리 이슈에 대한 대책과 보완책들이 나오기를 바래봅니다.
해당 글을 통해서 도움이 되셨다면 댓글과 좋아요 부탁드립니다.
궁금한 사항은 댓글 달아주시면 답변드리겠습니다.
이상으로 "알아두면 언젠간 필요한 잡학지식 - 챗GPT Writer: 챗GPT 인공지능 솔직한 답변 듣는 탈옥 및 우회 방법 최신 버전 (2023.04) 편"이었습니다.
챗GPT를 활용하여 이메일 및 글 작성하는 확장 프로그램이 있을까요?
2023.04.03 - [AI 꿀팁✔/챗GPT] - 챗GPT 기반 글 작성기 챗GPT Writer 설치 및 사용 방법 최신 버전 (2023.04)
챗GPT 기반 글 작성기 챗GPT Writer 설치 및 사용 방법 최신 버전 (2023.04)
챗GPT가 발표된 이후 다양한 AI들이 빠른 속도로 주변에 생겨나고 있습니다. 그렇지만 여전히 챗GPT의 성능은 다른 AI들에 비해 우수한 결과물을 보여주고 있습니다. 이에 맞춰 챗GPT를 사용하는데
trivially-essential.tistory.com
챗GPT에 인터넷을 연결하여 최신성을 확보할 수 있는 확장 프로그램이 있을까요?
2023.04.01 - [AI 꿀팁✔/챗GPT] - 웹 챗GPT(Web ChatGPT) 설치 및 사용 방법 최신 버전 (2023.04)
웹 챗GPT(Web ChatGPT) 설치 및 사용 방법 최신 버전 (2023.04)
챗GPT가 발표된 이후 다양한 AI들이 빠른 속도로 주변에 생겨나고 있습니다. 그렇지만 여전히 챗GPT의 성능은 다른 AI들에 비해 우수한 결과물을 보여주고 있습니다. 이에 맞춰 챗GPT를 사용하는데
trivially-essential.tistory.com
'AI 꿀팁✔ > 챗GPT' 카테고리의 다른 글
| 챗GPT(ChatGPT 3.5, 4) 오류 해결 방법 최신 버전 (2023.04) (0) | 2023.04.10 |
|---|---|
| 챗GPT 3.5 대비 챗GPT 4 성능 비교 및 사용 방법 최신 버전 (2023.04) (0) | 2023.04.05 |
| 챗GPT 기반 글 작성기 챗GPT Writer 설치 및 사용 방법 최신 버전 (2023.04) (0) | 2023.04.03 |
| 웹 챗GPT(Web ChatGPT) 설치 및 사용 방법 최신 버전 (2023.04) (0) | 2023.04.01 |
| 유튜브 서머라이저 with 챗GPT 설치 및 사용 방법 최신 버전 (2023.04) (0) | 2023.04.01 |