"대통령의 명령이라도 안 됩니다" 앤스로픽 CEO가 펜타곤과 싸우는 이유

국가 안보를 위해 AI 윤리를 포기해야 할까요? 앤스로픽 CEO 다리오 아모데이가 밝히는 펜타곤과의 갈등과 국내 대중 감시, 자율 살상 무기에 대한 단호한 '레드라인' 전술을 확인하세요.

---

AI와 국가 권력의 충돌: 민주주의를 위한 위험한 도박

국가 안보라는 명분 아래 AI 기업은 정부의 모든 요구를 수용해야 할까요? 앤스로픽(Anthropic)의 CEO 다리오 아모데이는 단호하게 "아니오"라고 답합니다. 그는 기술 발전이 법과 제도를 앞지르는 지금, AI 기업이 맹목적으로 권력에 복종하는 것이 오히려 국가의 근본적인 '민주적 가치'를 무너뜨린다고 진단합니다. 펜타곤과 정부의 압박 속에서도 그가 지키고자 하는 것은 무엇일까요?

---

1. 가치 있는 승리: '어떻게' 이기느냐가 본질이다

앤스로픽은 중국이나 러시아 같은 독재 국가의 위협에 맞서기 위해 미 정보기관과 적극적으로 협력해 왔습니다. 하지만 아모데이는 "적을 이기기 위해 우리 스스로 독재의 도구를 닮아간다면, 그것은 이미 패배한 것"이라고 강조합니다.

• 99%의 협력: 합법적이고 유용한 군사적 활용에는 전적으로 동의합니다.
• 1%의 저항: 국가의 핵심 가치를 무너뜨릴 수 있는 치명적인 오남용에 대해서는 기업의 명운을 걸고 선을 긋습니다.

---

2. 타협 불가능한 2가지 '레드라인' (The 2 Red Lines)

다리오 아모데이는 AI가 군사 및 정부에 도입될 때 절대 양보할 수 없는 두 가지 예외 원칙을 제시합니다.

1. 국내 대중 감시 (Domestic Mass Surveillance): 정부가 민간 기업의 방대한 데이터를 구매해 AI로 국민을 감시하는 행위입니다. 이는 수정헌법 4조(사생활 보호)를 정면으로 위반하며, AI의 압도적인 정보 처리 능력이 법의 허점을 파고드는 것을 경계해야 합니다.
2. 완전 자율 살상 무기 (Fully Autonomous Weapons): 인간의 개입 없이 기계가 스스로 표적을 정하고 발사하는 무기입니다. 현재 AI 시스템은 생사를 결정할 만큼 신뢰할 수 없으며, 책임 소재(Accountability)가 사라지는 심각한 윤리적 공백을 야기합니다.

---

3. 진정한 애국의 기준: 수정헌법 1조의 시험

정부는 3일간의 최후통첩과 함께 앤스로픽을 '공급망 위험'으로 지정하는 등 보복성 제재를 가했습니다. 그러나 아모데이는 물러서지 않습니다. 민간 기업이 자신의 원칙과 신념에 따라 서비스를 제공할 권리를 지키는 것, 그리고 부당한 조치에 맞서 목소리를 내는 '수정헌법 1조(표현의 자유)'야말로 가장 미국적이고 애국적인 행동이기 때문입니다.

 

참고자료: CBS News, Full interview: Anthropic CEO responds to Trump order, Pentagon clash