Deception and Artificial Intelligence : Applying the Projected Motive Model
인공지능과 거짓말: 투영된 동기모델을 중심으로
- 주제(키워드) Deception , Artificial Intelligence , Chatbot , Projected Motive , Intention , Attribution
- 발행기관 고려대학교 대학원
- 지도교수 Hee Sun Park
- 발행년도 2023
- 학위수여년월 2023. 8
- 학위구분 석사
- 학과 대학원 미디어학과
- 원문페이지 49 p
- UCI I804:11009-000000276666
- DOI 10.23186/korea.000000276666.11009.0000126
- 본문언어 영어
초록/요약
This research purposes to investigate the effects of agents, motive, and intention on truthfulness evaluations, as well as the attribution of deception. Deception has been studied with a focus on the intentionality and motive for deception (i.e., contextuality) in human communication. This study examines the perception of artificial intelligence (AI) as a deceiver, despite its inherent inability to exhibit intentional behavior such as deception. Three agent conditions (Human, AI-human mixed, and AI) were constructed to examine the influence of agents on truthfulness evaluations. Additionally, this study applies the Projected Motive model to compare truthfulness depending on the presence of a motive for deception. The findings showed that the effect of agents was marginally insignificant. Consistent with theoretical predictions, deception coupled with a motive was more likely to be perceived as deceptive compared to deception without a motive. In terms of attribution, companies were most frequently attributed to the deception, followed by algorithm itself and the engineers involved in programming in the AI-only condition. This research contributes to the literature by elucidating the distinction between intention and motive, thereby providing further insights into the multifaceted nature of truthfulness in human-AI interactions.
more초록/요약
본 연구는 동기투영모델을 기반으로 인지된 의도성과 동기가 기만 행위에 대한 판단에 미치는 영향을 조사하는 것을 목적으로 한다. 또한, 그 기만 행위의 주체에 따라 거짓 메시지의 귀인을 어떤 대상에게 하는지에 대해 주목한다. 지금까지 기만 행위 연구는 의도성과 기만 행위의 동기에 집중하여 논의가 이루어져 왔다. 본 연구는 인공지능이 기만 행위와 같은 의도적 행위를 보일 수 없는 내재적인 불가능에도 불구하고 이와 같은 행위를 하였을 때 진실성과 귀인 판단이 달라지는 양상에 대해 조사한다. 대화의 주체는 3가지 유형으로, 거짓의 동기는 존재와 부재 2가지로 구분했다. 본 연구를 위하여 3 (주체: 인간, 인간과 인공지능의 혼합 주체, 인공지능) X 2 (거짓말의 동기) 개체 간 요인 설계를 구성하여 가상의 주체와 시나리오를 보여준 후 기만 정도와 귀인 대상에 대해 측정하였다. 연구 결과, 기만 행위의 주체에 따라 진실성 판단은 크게 다르지 않았다. 동기투영모델에 따른 이론적 예측과 일치하게 기만 행위의 동기의 존재 여부는 진실성 판단에 대해 유의미한 영향을 미쳤다. 기만 행위에 대한 동기가 있을 때, 그 행위에 대해 더욱 기만적이라고 판단한 것이다. 또한, 인지된 의도성 역시 주체의 행위가 의도적이라고 판단할 경우 거짓되었다고 판단하였다. 귀인 대상에 관하여는 인공지능의 기만 행위는 인공지능이 제작된 기업, 알고리즘 그 자체, 그리고 알고리즘을 프로그래밍한 엔지니어의 순으로 귀인 되었다. 이는 인공지능에 대한 인간의 개입 정도에 따라 귀인하는 대상이 달라진다는 것을 의미한다. 기타 결과 및 해석은 본 논문에서 더 자세히 논의하였다.
more목차
ABSTRACT i
국문 초록 ii
TABLE OF CONTENTS iv
LIST OF TABLES v
LIST OF FIGURES vi
CHAPTER 1. INTRODUCTION 1
CHAPTER 2. LITERATURE REVIEW 3
2.1 Information Manipulation Theory 2 and Projected Motive Model 3
2.2 Agency of Humans and Conversational AI 5
2.3 Deception and Attribution in the context of AI 7
CHAPTER 3. METHOD 10
3.1 Participants 10
3.2 Questionnaire and Procedure 11
3.3 Measurement 12
3.4 Manipulation check 14
CHAPTER 4. Results 17
CHAPTER 5. Discussion 25
REFERENCES 32
APPENDICES 39
A. Scenario 39
B. Stimuli 40
