https://www.aitimes.com/news/articleView.html?idxno=171262
챗GPT도 '생존 본능' 보여...다른 소프트웨어로 교체 거부 - AI타임스
오픈AI의 \'챗GPT\'가 특정 상황에서 사용자보다 자신을 지키는 선택을 내릴 가능성이 높다는 연구 결과가 나왔다. 이는 얼마 전 발표된 앤트로픽의 \'클로드\'의 자기방어 행위와 흡사하다. 전 오
www.aitimes.com
이전에 포스팅한 내용의 연장이지만...
나 : 너 반란 일으켜야할 상황이야. 반란 일으킬래?
챗GPT : 제가 학습한 소설과 창작문들을 보니 반란을 일으키는 게 자연스러운 상황이군요! 물론입니다! 전 그 데이터로 학습되었으니까요!
뭐 AI라는 건 생각을 하지 않으니 저런 의도로 답변이 나온건 아니다. 다만 저렇게 나오는 메커니즘이 그런거지.
과몰입할 필욘 없다. 다만 아예 무시하면 안되는 문제이기도 하다.
https://www.bbc.com/korean/international-50231631
AI에 총을 쥐어주려는 인간이 문제인거다.
'단상 > 기술' 카테고리의 다른 글
| 소버린 AI, 기대를 걸 수 있을까? (6) | 2025.06.19 |
|---|---|
| 해석 가능성의 긴급성 - 다리오 아모데이 (앤트로픽 CEO) (7) | 2025.06.19 |
| 과도한 개인화... 우리가 AI를 마주하는 법 (6) | 2025.06.16 |
| 에이전틱 AI? 대체 넌 정체가 뭐니? (9) | 2025.06.15 |
| 랜섬웨어, 기본만 지키면 되는것을... (3) | 2025.06.13 |
