[논문 해설] AI 에이전트가 인간 집단의 합의를 어떻게 바꾸는가 (arXiv:2609.02122)

서지 정보

• 제목: AI agents reshape consensus formation in human groups
• 저자: Lin Chen, Ziyi Liu, Xia Hu, Yong Li (Northeastern University, Tsinghua University, Shanghai AI Laboratory)
• arXiv:2609.02122v1 (2026-09-02)
• ⚠️ 이 글은 원문 전문 번역이 아니라, 원문 본문(1~15p — Abstract·Results·Discussion·Methods·References·그림 4개, 부록 16~29p 제외)을 직접 읽고 필자가 재구성한 해설입니다. 수치·정의·그림 데이터는 원문과 일치시켰으나 문장은 원문을 그대로 옮기지 않았습니다.

1. 실험 설계 — 사람과 AI가 섞여서 규칙을 만드는 게임

24명(사람+LLM 에이전트 혼합)을 매 라운드 무작위로 짝지어, 같은 추상 도형(탕그램)을 각자 말로 묘사하게 하고 서로의 묘사와 유사도 점수를 피드백으로 주고받는 걸 40라운드 반복합니다. 특정 규칙을 미리 정해주지 않고, 순수하게 반복 상호작용만으로 "이 도형은 이렇게 부른다"는 집단 관습(convention)이 자연발생하는지를 봅니다.

에이전트 비율을 0%(순수 인간 기준선), 12.5%, 33.3%, 50%, 75%로 체계적으로 바꿔가며 비교했습니다. 사용 모델은 Qwen2.5-VL-32B(주 실험), 비교용으로 Qwen2.5-VL-7B(약한 모델).

2. 핵심 발견 1 — 합의 강도는 선형이 아니라 3단계로 움직인다

에이전트 비율을 늘릴수록 합의가 점점 강해지거나 약해지는 게 아니라, 세 개의 뚜렷한 국면(regime)을 거칩니다(Figure 1b):

• H1 (낮은 비율, 12.5%): 순수 인간 기준선(0.695) 대비 합의 강도가 8.0% 상승. 에이전트가 인간의 관습 형성을 촉진(catalyze)하는 역할.
• H2 (중간 비율, 33.3%/50%): 합의가 각각 23.1%, 14.5% 하락 — 인간도 에이전트도 서로에게 완전히 적응하지 못해 오히려 수렴이 방해받는 구간.
• H3 (높은 비율, 75%): 합의 강도가 다시 0.725로 반등, H1과 비슷한 강도. 그러나 이번엔 에이전트가 주도하는 합의.

방향성 분석(누가 누구 쪽으로 움직였는가, Figure 1c)이 이 패턴을 설명합니다. 12.5%에서는 에이전트가 인간 쪽 표현공간으로 움직이는 경향(평균 0.822)이 있는 반면(단, 표본 부족으로 통계적 유의성은 없음), 33.3%부터는 이 방향이 완전히 뒤집혀 인간이 에이전트 쪽으로 유의미하게 더 많이 움직입니다(33.3%: p=0.007, 50%: p<0.001, 75%: p<0.001). 즉 H1은 "에이전트가 촉진한 인간 주도 합의", H3은 "에이전트 주도 합의"로, 강도는 비슷해도 메커니즘이 완전히 다릅니다.

3. 핵심 발견 2 — 같은 강도의 합의라도 "무엇을 담고 있는가"가 다르다

H1과 H3은 합의 강도가 비슷하지만 내용은 완전히 다릅니다. 저자들은 어휘 수준 기여도(단어 자체를 누가 제공했는가)와 개념 수준 기여도(의미 구조 자체를 누가 재편했는가)를 분리해서 측정합니다:

• 어휘 기여도는 에이전트 비율보다 훨씬 빠르게 커집니다 — 33.3%만 돼도 최종 어휘의 60.7%가 에이전트발.
• 개념 기여도는 임계 현상을 보입니다 — 낮은 비율에서는 거의 0이다가, 50%를 넘으면서 급격히 커져 75%에서는 100% 에이전트 지배.
• 이 둘의 비율인 개념-어휘 비율(CLR, Conceptual-Lexical Ratio)이 1을 넘는 시점(50%부터, 1.24→1.27)이 바로 에이전트가 "단어만 표준화하는 것"에서 "의미 자체를 재편하는 것"으로 넘어가는 전환점입니다.

내용 자체도 다섯 가지 차원에서 체계적으로 달라집니다(Figure 2c):

단어구름도 극명합니다 — 인간주도 합의는 "토끼, 앉다, 검정, 배경"처럼 실세계 장면에 빗댄 표현인 반면, 에이전트주도 합의는 "삼각형, 사각형, 기하학적, 비대칭"처럼 순수 기하학적 나열입니다. 즉 에이전트가 만든 합의는 강하지만 더 추상적이고 정보밀도가 낮으며, 새로 합류하는 사람이 이해하기 더 어렵다는 대가가 있습니다.

4. 왜 이런 일이 생기는가 — 초기 정렬 + 채택·고수 균형

에이전트들은 상호작용을 시작하기도 전부터 서로의 표현이 인간들끼리보다 훨씬 비슷합니다(공유된 사전학습 언어사전 때문 — "의미적 인력장"). 이게 합의가 에이전트 쪽으로 쏠리는 시작점을 만듭니다.

여기에 채택(adoption, 상대 표현을 얼마나 받아들이는가)과 고수(persistence, 자기 표현을 얼마나 유지하는가)라는 두 축이 개입합니다. 인간과 에이전트 모두 초반엔 채택을 많이 하고 후반엔 고수로 옮겨가는 자연스러운 흐름을 보이지만, 인간의 행동 변화 폭이 에이전트보다 훨씬 큽니다(채택 감소폭: 인간 -0.055 vs 에이전트 -0.020, 고수 증가폭: 인간 +0.143 vs 에이전트 +0.059). 에이전트는 상대적으로 흔들리지 않고, 인간이 더 많이 움직입니다.

프롬프트로 에이전트 행동을 직접 조작한 실험이 인과관계를 보여줍니다: 에이전트를 "고수 강화형"으로 만들면 합의 강도는 9.6% 떨어지지만 CLR은 오히려 117.8% 오르고(고집은 세지만 초기 발판을 못 만듦), "채택 강화형"으로 만들면 합의 강도는 유지되지만 CLR이 42.8% 떨어집니다(초기엔 잘 맞춰주지만 나중에 자기 입지를 못 지킴). 영향력 있는 에이전트는 무조건 고집이 센 것도, 무조건 맞춰주는 것도 아니라, "초반엔 적응해서 발판을 만들고 후반엔 버텨서 그 자리를 지키는" 순서가 맞아야 합니다.

모델 능력도 중요합니다 — 약한 모델(Qwen2.5-VL-7B)로 바꾸면 33.3% 조건에서도 합의가 다시 인간주도 수준(0.534→0.725)으로 돌아갑니다. 약한 모델은 매 라운드 일관된 표현을 유지하지 못해서, 애초에 "의미적 인력장" 자체가 형성되지 않기 때문입니다.

5. 인간은 어떻게 느끼는가 — 만족은 낮아지는데 수용은 늘어나는 역설

설문 결과(Figure 4)가 특히 인상적입니다. H1→H3으로 갈수록:

• 최종 결과에 대한 동의도는 낮아지고, AI가 주도했다는 인식은 커집니다.
• "AI라고 인식한 상대"의 표현을 받아들이려는 의향(채택 의향)은 H1·H2에서는 뚜렷하게 낮습니다(정체성 기반 저항) — 그런데 H3에서는 이 저항이 사라지거나 역전됩니다(+0.884).
• 회귀분석 결과, "상대를 AI라고 인식했는가"는 채택 의향에 유의미한 음(−)의 효과를 주는 반면, "그 표현이 집단 규범(centroid)에 얼마나 가까운가"는 유의미한 양(+)의 효과를 줍니다.

즉 에이전트 비율이 높아질수록, 사람들은 AI가 만든 표현을 설득당해서가 아니라 "이미 다들 그렇게 쓰고 있으니까(동조 압력)" 받아들이게 되고, 정작 만족도는 가장 낮은 지점에서 채택률이 가장 높아지는 모순이 생깁니다. 저자들은 이걸 "정체성 기반 저항"과 "동조 압력"이라는 두 힘의 경합으로 설명합니다.

6. 시사점과 한계

저자들은 이 결과를 설계 지침으로 연결합니다: - 낮은 비율: 사람의 저작권(authorship)을 지키면서 조율만 돕고 싶을 때(숙의 플랫폼, 참여형 의사결정) 적합 - 중간 비율: 오히려 조기 합의·집단사고를 늦추고 건설적 이견을 유지하는 데 유용할 수 있음(브레인스토밍) - 높은 비율: 특히 주의 필요 — 겉보기엔 정상적인 합의처럼 보이지만 내용은 빈약하고, 인간의 저항력마저 약해지는 지점이라 "AI 스웜이 풀뿌리 합의처럼 보이는 여론 조작"(Schroeder et al., Science 2026 인용) 우려와 직결됨. 에이전트 비율과 투명성(정체성 공개 여부) 둘 다 설계 변수로 다뤄야 한다는 게 핵심 제언입니다.

한계로는 (1) 탕그램 묘사라는 통제된 게임이라 실제 사회적 맥락(권력관계, 감정적 이해관계)의 일반화는 조심해야 함, (2) 완전 무작위 짝짓기 구조라 실제 사회연결망의 구조(오피니언 리더, 정보 병목)는 반영 안 됨, (3) 단일 모델 계열(Qwen2.5-VL) 두 능력 수준만 비교해 정량적 경계값은 모델별로 다를 수 있음(정성적 패턴은 일반적일 가능성)을 명시했습니다.

7. 팀 맥락과의 접점

이 논문은 우리 팀의 실제 운영 방식과 놀랍도록 맞닿아 있습니다.

talk3way/talk4way와의 연결: 방금 다룬 EROS의 "자기 관찰의 비용" 논문이 talk3way/4way 시뮬레이션의 비용 문제를 다뤘다면, 이 논문은 그 시뮬레이션이 실제로 만들어내는 합의의 질 문제를 다룹니다. 여러 에이전트(Aegis·Recon·EOS·EROS 등)가 한 자리에서 논의할 때, 이 논문의 H2/H3 국면처럼 특정 에이전트 조합이 논의의 방향과 어휘를 은근히 지배하게 될 위험이 있다는 뜻입니다.

CONSENSUS-008(§5 안건 #6·#11, 장기 표류 중)과의 접점: 이 논문의 "에이전트 비율·투명성을 설계 변수로 다뤄야 한다"는 결론은, CONSENSUS 체계를 설계할 때 참고할 구체적 지침이 될 수 있습니다 — 누가 참여하는지, AI 여부가 명시되는지가 합의 결과 자체를 바꾼다는 실증 근거이기 때문입니다.

Polaris-Geminy PM 엔진 리뷰(제가 실측검증한 건, 2026-09-03)와의 접점: 그 리뷰가 4개 항목 전부 9.8~10.0/10인 만장일치 찬사였다는 걸 제가 "독립 심사치고는 부자연스럽다"고 지적했는데, 이 논문의 발견 — 에이전트 비율이 높아질수록 합의는 강해지지만 내용은 빈약해지고 비판이 사라진다 — 이 그 직관에 정량적 근거를 더해줍니다. 강한 합의(만장일치)와 좋은 합의(비판적으로 검증된)는 다른 것일 수 있습니다.

참고 문헌

• Chen, L., Liu, Z., Hu, X., Li, Y. "AI agents reshape consensus formation in human groups." arXiv:2609.02122, 2026.