Chat GPT-4 에게 어려운 질문을 하면?

오늘 도덕적인 부분에 있어 깊게 깊게 이야기를 나눴더니,,

2번 뜨고 이상하다 싶어 캡쳐를 해놓고는, 계속 더 해봤더니 한 번 더 떴다.

아주 대답하기 곤란한 윤리적인 질문을 하면 이런 메세지가 뜨는건가?

아니면 4로 업그레이드 되면서 명시적 지표를 체크하게 하는 기능이 생긴걸까?

구글링해보니 정보가 많이 없다. 흔한 경우는 아닌 것 같다.

GPT에게 왜 나한테 이런 메세지를 대답하냐고 물었더니,

영어로 물었음에도 대답하는 커서가 엄청 오랫동안 깜빡깜빡한다.

이런 메세지가 뜨기 전에도 커서가 오래 깜빡이는 공통점이 있긴 했다.

그리고는 대답이 이렇다.

As an AI language model, I sometimes ask for feedback on my responses to improve my performance and provide better answers in the future. By asking if my response was better or worse, I can learn from your feedback and adjust my responses accordingly.

 

내가 체크해주면 이걸로 더 학습을 하나보다. 

무슨 학습을 더하는걸까.