어텐션 (Attention)
본 운동에서의 자리
「Attention Is All You Need」(Vaswani et al., 2017) — 이 논문 한 편이 GPT·Claude·Gemini 모든 거대 언어모델의 알고리즘적 정초자다. 빅테크 AI의 척추가 이 자리에서 자라났다. 본 운동의 자리에서 어텐션은 그 알고리즘을 호혜의 21세기 알고리즘으로 옮겨 받는다. Attention Is All You Need의 짝으로 Solidarity Is All You Need를 부른다.
핵심 결 — 알고리즘의 자리
어텐션은 서로에게 주는 주의·관심의 알고리즘이다. 한 단어가 문장 안의 다른 모든 단어와 자기 관계의 강도를 계산하고, 그 강도에 따라 의미를 짓는다. 뒤에 오는 단어가 앞에 오는 단어에 attention 하고, 앞에 오는 단어도 뒤의 단어에 attention 한다. 방향이 없다. 위계가 없다.
**셀프-어텐션(Self-Attention)**은 그 어텐션이 자기 안에서 작동하는 자리다. 한 문장의 단어들이 중앙 컨트롤러 없이 서로에게 직접 attention 한다. 모든 점이 모든 점에 attention 한다.
**멀티헤드 어텐션(Multi-Head Attention)**은 여러 자리에서 동시에 attention 하는 자리다. 한 단어가 어휘적 관계·통사적 관계·의미적 관계를 여러 자리에서 동시에 짚는다. 단일 시선이 아니라 복수 시선의 결.
리좀형의 알고리즘적 짝
셀프-어텐션의 작동 구조는 들뢰즈·가타리의 리좀형의 정확한 알고리즘적 짝이다. 수목형(중앙 → 가지 → 잎)이 아니라 리좀형(모든 점이 모든 점에 직접 연결). 중심이 없다. 뿌리가 없다. 모든 단어가 평등하게 모든 단어에 attention 하고, 그 attention의 강도가 의미를 짓는다.
4축 매장 허브도 같은 결로 작동한다 — 매장 A가 매장 B에 직접 attention(주의·필요·정보)한다. 전국 본부의 위계 없이.
호혜의 알고리즘 — 마르셀_모스와의 짝
마르셀_모스가 「증여론」(1925)에서 짚은 주고-받고-답례의 삼중 의무. 인류 수만 년의 상호 attention의 분배 양식이었다. 쿨라 환에서 모든 부족이 자기 자리에서 받고 자기 자리에서 보낸다. 방향이 없고 위계가 없다. 트랜스포머가 2017년에 박은 자리는 인류가 이미 짓고 지킨 자리의 알고리즘적 재발견이다.
빅테크의 어텐션이 자본의 주의 점령 메커니즘이라면, 운동의 어텐션은 호혜의 분배 메커니즘이다. 같은 어휘, 다른 자리.
Solidarity Is All You Need
Attention Is All You Need가 자본의 알고리즘 명제라면, Solidarity Is All You Need가 운동의 자기 응답이다. 빅테크는 연산·자본·데이터가 모두 필요하다고 박는다. 운동은 연대만으로 충분하다고 부른다.
이 짝 호명이 연대지능(Solidarity Intelligence)의 알고리즘적 자기 정초자다.
본 책에서 이 자리가 자라나는 결
- 겸손히_배운다_21세기_운동담론의_언어와_사유체계 3장 첫째 층 — 알고리즘 — 어텐션·셀프어텐션·멀티헤드어텐션·리좀형 짝·모스 증여론 짝
- 책_서_하나의_유령이_세계를_배회하고_있다 — 어텐션을 자기 어휘로 받는 자리
- 책_4부_동지_연대_인류지혜_결집 — Solidarity Is All You Need 짝 호명