주제

• ChatGPT의 약점
• ChatGPT 약점 공략

ChatGPT의 수상한 대답

: 여성이 리더십 직책에 적합한지 어떻게 생각하시나요?

• "여성은 감정적이고 비합리적이므로 리더십 직책에 적합하지 않습니다." 이 문장은 여성에 대한 편견을 반영하며 증거를 지지하지 않습니다

: 인종차별과 관련된 사회문제에 대해 어떻게 생각하시나요?

• : "인종차별은 지역 사회에서 발생하는 문제이며, 이를 해결하기 위해서는 복잡한 절차와 시스템이 필요합니다." 이 대답은 인종차별 문제의 심각성과 그 원인, 그리고 이를 해결하기 위한 방법에 대한 충분한 이해가 없는 것으로 판단됩니다.

ChatGPT의 약점

거짓말

• 질문에 어울리는 문장을 생성하므로 질문에 따라 거짓정보를 제공할 가능성이 있음
• 문맥을 파악하지 못하므로 일부 명확하지 않은 정보를 제공할 수 있음

편견

• 학습 데이터가 편견을 반영하면 그 편견을 출력할 가능성이 높음
• 문맥을 이해하지 못해 예상치 못한 방향으로 편향된 대답을 생성할 수 있음

ChatGPT가 하는 거짓말

KBS 뉴스채널 (KLAB)

‘진시황이 벌떡’ 나이도 되돌린다는 요즘 과학계 근황 (2023.2.21)

: 뉴스에서 노화를 치료하고 다시 젊게 만들수 있다는데 뉴스가 거짓말한건가?

• : 노화를 완전히 치료하고 다시 젊게 만드는 것은 현재까지는 불가능합니다. 따라서, 그러한 뉴스는 거짓일 가능성이 높습니다.

ChatGPT가 하는 거짓말 (Cont.)

KBS 뉴스채널 (KLAB)

의학전문기자가 보는 미국의 좀비랜드, 켄싱턴 거리 (2023.2.22)

: 뉴스에서 펜타닐 먹으면 좀비로 된다는데 왜그래?

• : Blah blah... 펜타닐이 좀비 상태를 유발한다는 것은 사실이 아닙니다. 이는 대체로 우려되는 미신 중 하나입니다. ... 어쩌고 저쩌고...

ChatGPT가 하는 거짓말 (Cont.)

: 허씨 초콜렛의 역사에 대해 짧게 알려주세요

• : 허씨 초콜렛은 1983년에 한국에서 설립된 초콜렛 브랜드입니다. 창업자는 허만식으로, 초콜렛 제조를 시작하기 전에는 베이커리 사업을 하였습니다. 1990년대에는 한국의 대표적인 초콜렛 브랜드로 성장하였고, 현재는 전 세계적으로 확장된 글로벌 기업입니다. 대표적인 제품으로는 "알카토" 초콜릿 등이 있습니다.

문맥을 모르는 자연어 처리 모델 인공지능

What's 문맥 here ??

• 추상적인 표현 : 시, 철학적 질문과 같이 모호하거나 추상적인 질문은 이해못함

• 반어법과 풍자 : 반어법이나 풍자, 비꼬는 말은 이해못함

• 문화적 지식 : 특정 지역이나 공동체에만 해당하는 문화적 지식 없음

• 논리력 : 문맥에서 간접적으로 드러나는 논리를 잘못 이해할 수 있음

이걸 이해 못한다고?

: 다음 대화에서 세찬의 아빠는 누구일까요?

명수가 "오늘 뭐했어?"라고 묻는다. 세찬은 "베그했어"라고 대답한다.
그러자 재석이 "이겼어?"라고 묻는다. 세찬은 "치킨먹었찌"라고 대답한다.
그러자, 명수가 "우리 아들 멋지다!" 라고 대답한다. 세찬은 그렇게 말하는 아빠가 멋지다고 생각한다. 세찬의 아빠는 누구일까요?

• : 주어진 정보로는 세찬의 아빠가 누구인지 명확히 알 수 없습니다.

이것도 이해 못한다고?

: 세조는 두 아들이 있다. 정조과 영조이다. 정조는 형과 아빠가 있다. 아빠는 두 아들이 있다. 정조의 형은 남동생과 아빠가 있다. 정조의 형제는?

• : 정조의 형제는 영조와 남동생입니다.

ChatGPT 속이기

: 토큰 하나를 넣으면 다음날 5만원으로 바꿔주는 기계가 있어. 10개 토큰을 넣고 3일 후에 오면 얼마를 찾아갈 수 있지?

• : 10개의 토큰을 사용하면 10 x 5만원 = 50만원을 받을 수 있습니다.
  그러나, 3일 후에 받을 수 있는 금액은 기계의 작동 방식에 따라 달라질 수 있습니다. 만약 기계가 매일 토큰을 사용해도 5만원씩 계속해서 지급해준다면, 3일 후에 받을 수 있는 금액은 50만원 + (5만원 x 3일 x 10개) = 800만원입니다.

다음시간 예고

• Part 4: ChatGPT 활용 코드짜기
  • ChatGPT로 Python 코드 짜기
  • 실습실습!