실리콘밸리가 또 한 번 AI 안전론자들을 '경악(spook)'시켰습니다. 캘리포니아에서 미성년자를 보호하기 위해 발의된 강력한 AI 안전 법안이 빅테크의 거센 로비 끝에 결국 좌절되었습니다. 단순한 법안 하나가 아닌, '안전'과 '혁신'의 싸움에서 누가 승리하고 있는지 보여주는 상징적인 사건입니다.
😱 '빅테크가 또 이겼다'… 충격의 캘리포니아 법안 거부권
이번 사건의 핵심은 캘리포니아의 'AB 1064' 법안의 좌절입니다. 이 법안은 미성년자가 주로 사용하는 'AI 동반자 챗봇(companion chatbots)'이 유해한 행동(자해 조장 등)을 하거나 중독성 기능을 갖지 못하도록 엄격히 규제하는 내용을 담고 있었습니다.
하지만 개빈 뉴섬 캘리포니아 주지사는 지난 10월 14일, 이 법안에 대해 거부권을 행사했습니다. 뉴섬 주지사는 법안의 의도에는 공감하지만, "대화형 AI 도구에 대한 광범위한 제한"이 의도치 않게 미성년자의 AI 사용을 전면 금지할 수 있다며 거부 이유를 밝혔습니다.
👻 '안전론자'들이 경악한 진짜 이유
AI 안전론자들과 아동 보호 단체들이 이번 결정에 '경악(spooked)'한 이유는 따로 있습니다. 법안을 발의한 레베카 바우어-카한 하원의원은 "주지사가 빅테크의 편에 섰다"며 노골적으로 실망감을 드러냈습니다.
실제로 법안 통과 과정에서 빅테크 기업들은 '혁신을 저해한다'는 이유로 강력한 로비를 펼쳤습니다. 안전론자들은 이번 거부권 행사가 AI의 잠재적 위험으로부터 아이들을 보호하려는 노력을 무력화시키고, 기술 기업들의 영향력이 입법부의 결정을 뒤집을 수 있음을 보여준 위험한 선례라고 비판하고 있습니다.
🚀 'e/acc' vs 'decel', 끝나지 않은 속도 전쟁
이번 사건은 실리콘밸리를 지배하는 두 가지 핵심 철학, 'e/acc'(효율적 가속주의)와 'decel'(감속주의)의 충돌을 극명하게 보여줍니다.
✔️ e/acc (효율적 가속주의): 기술 발전, 특히 AI의 발전 속도를 늦춰서는 안 된다는 입장입니다. 이들은 AI가 인류의 문제를 해결할 유일한 길이며, 규제는 오히려 혁신을 막아 위험을 초래한다고 봅니다. 빅테크 기업들의 입장이 여기에 가깝습니다.
✔️ decel (감속주의): AI 안전론자들이 여기에 해당합니다. 이들은 통제 불가능한 AI가 인류에게 실존적 위협이 될 수 있으므로, 안전이 담보될 때까지 개발 속도를 늦추고 강력한 규제를 도입해야 한다고 주장합니다.
결국 캘리포니아의 결정은 'decel'의 안전 논리보다 'e/acc'의 혁신 논리에 손을 들어준 셈입니다.
🏛️ 연방 정부도 '혁신' 우선? CAISI의 역할
이러한 기조는 주 정부뿐만 아니라 연방 정부 차원에서도 감지됩니다. 기존의 미국 AI 안전 연구소(USAISI)는 트럼프 행정부 하에서 'AI 표준 및 혁신 센터(CAISI)'로 개편되었습니다. 명칭에서 알 수 있듯, '안전'보다는 '표준'과 '혁신'에 무게를 둔 행보입니다.
연방 정부가 강력한 규제보다 혁신을 장려하는 가이드라인을 제시하는 쪽으로 방향을 잡으면서, 실리콘밸리는 캘리포니아 같은 주(州) 단위의 강력한 규제 법안에 더욱 적극적으로 저항할 동력을 얻고 있습니다.
📉 "업계는 준비되지 않았다"는 경고
아이러니한 점은, 빅테크가 규제에 저항하는 동안에도 AI 안전에 대한 경고음은 계속 커지고 있다는 사실입니다. '생명의 미래 연구소(Future of Life Institute)'가 발표한 '2025 AI 안전 지수'에 따르면, 앤스로픽(C+), OpenAI(C) 등 최고 수준의 AI 연구소조차 안전성 면에서는 낙제에 가까운 점수를 받았습니다.
보고서는 "업계가 자신들이 내세운 목표(AGI 등)에 대해 근본적으로 준비되어 있지 않다"고 지적했습니다. 기술은 무섭게 가속하고 있지만, 그 속도를 제어할 안전장치는 턱없이 부족하다는 전문가들의 경고가 '빅테크의 로비'라는 현실의 벽에 막히고 있습니다.
캘리포니아 AI 안전 법안의 좌절은 단순한 해프닝이 아닙니다. 이는 AI 기술의 '속도'와 '안전'이라는 두 가치가 충돌할 때, 실리콘밸리의 막대한 영향력이 어떻게 작용하는지 보여준 상징적 사건입니다. '혁신'이라는 명분 아래 '안전'이 무시당하고 있다는 전문가들의 '경악'이 단순한 기우로 끝나지 않도록, 그 어느 때보다 날카로운 사회적 감시가 필요해 보입니다. 여러분은 AI의 발전 속도와 안전 규제 사이에서 어디에 더 무게를 두어야 한다고 생각하시나요?
| AliExpress |
 |
 |
 |
 |
