AI가 전투기를 몰았다 — 자율성의 경계에 대하여

이번 주 AI 뉴스를 정리하는 마지막 글입니다. 앞선 글들이 "AI가 얼마나 똑똑하고 싸졌나"였다면, 이 소식은 결이 다릅니다. AI가 화면 밖으로 나와, 물리 세계에서 스스로 조종간을 잡았다는 이야기입니다.

무슨 일이 있었나

2026년, 미국 방위고등연구계획국(DARPA)이 AI가 완전히 조종하는 F-16 전투기의 첫 실제 비행을 성공시켰다고 보도됐습니다. 시뮬레이터가 아니라 실제 하늘에서, 사람 조종사 없이 AI가 비행을 제어했다는 것입니다.

챗봇이 글을 쓰고 그림을 그리는 것과, AI가 수 톤짜리 기체를 실제로 모는 것은 완전히 다른 무게를 가집니다. 틀린 답을 지우면 되는 세계에서, 되돌릴 수 없는 결과의 세계로 한 발 넘어간 셈입니다.

'보조'와 '조종'은 다르다

그동안 AI는 대체로 보조였습니다. 사람이 최종 결정을 하고, AI는 옆에서 도왔죠. 자동차의 운전 보조, 의료의 판독 보조처럼요. 그런데 "완전히 조종한다"는 건 그 선을 넘습니다. 판단과 실행을 AI가 끝까지 가져가는 것이니까요.

이 차이가 중요한 이유는, 무언가 잘못됐을 때의 책임과 통제 때문입니다.

문제가 생기면 누가 책임지나 — 만든 사람인가, 운용한 조직인가, AI 자신인가(그럴 수는 없죠).
위급할 때 사람이 개입할 여지가 남아 있나 — 이른바 '휴먼 인 더 루프'.
AI의 판단 근거를 사후에 설명할 수 있나.

기술적으로 "할 수 있다"와, 사회적으로 "그렇게 해도 되나"는 다른 질문입니다. 이번 비행은 전자를 보여줬지만, 후자는 이제부터의 숙제입니다.

그래도 지켜야 할 선

저는 기술을 만드는 사람으로서, 이런 소식을 무조건 두려워하거나 무조건 반기고 싶진 않습니다. 대신 어떤 경우에도 지켜야 할 선이 무엇인지를 생각합니다.

가장 중요한 건 되돌릴 수 있는가입니다. AI의 판단을 사람이 멈추고, 뒤집고, 검토할 수 있는 여지가 남아 있느냐. 생명이나 큰 손실이 걸린 영역일수록, "빠르고 자동" 이전에 "멈출 수 있고 설명할 수 있음"이 먼저여야 합니다. 이건 전투기 같은 극단적 사례만의 이야기가 아닙니다. 규모만 다를 뿐, 우리가 만드는 작은 서비스에도 똑같이 적용되는 원칙입니다.

크기는 달라도 질문은 같다

자동화가 늘 나쁜 건 아닙니다. 사람보다 빠르고 정확해야 하는 순간도 분명 있습니다. 다만 '얼마나 잘하느냐'와 '얼마나 스스로 결정하게 두느냐'는 별개의 문제입니다. 성능이 좋다고 해서 판단까지 통째로 넘겨야 하는 건 아니니까요. 이 둘을 뭉뚱그리면, "똑똑하니까 알아서 하게 두자"는 위험한 결론에 쉽게 도달합니다.

제가 만드는 건 전투기가 아니라 작은 기록 서비스지만, 질문의 뼈대는 같습니다. AI가 자동으로 무언가를 지우거나, 보내거나, 확정하기 전에 — 사람이 한 번 확인할 지점이 있는가. 되돌릴 수 있는가. 나중에 "왜 그렇게 됐지"를 추적할 기록이 남는가. 규모가 작다고 이 질문을 건너뛰면, 언젠가 작은 서비스에서도 되돌릴 수 없는 실수가 납니다. 자율성은 편리하지만, 편리함과 통제를 맞바꾸는 순간을 스스로 정해 두는 것이 만드는 사람의 몫입니다.

한 주를 정리하며

이번 한 주의 AI 뉴스를 늘어놓고 보니, 하나의 그림이 그려집니다.

수학 난제를 푼 AI — 능력은 계속 오른다.
80% 싸진 추론 — 비용은 계속 내린다.
쏟아지는 모델 — 공급은 넘쳐난다.
파일럿에 머무는 에이전트 — 그래도 실전은 어렵다.
흔들리는 연구소와 부딪치는 규제 — 사람과 규칙은 재편 중이다.

능력은 오르고 값은 싸지고 도구는 넘치는데, 정작 어려운 건 언제나 **"그래서 이걸 어떻게 책임지고 쓸 것인가"**였습니다. 전투기를 모는 AI는 그 질문을 가장 극적으로 던졌을 뿐입니다.

저는 거대한 담론을 내릴 위치에 있진 않습니다. 다만 작은 서비스를 만들면서도, '빠르고 자동'이라는 말에 홀려 '멈출 수 있고 설명할 수 있음'을 건너뛰지 않으려 합니다. 기술이 아무리 앞서가도, 그걸 어디까지 스스로 결정하게 둘지는 결국 사람이 정합니다. 그 선을 남에게 미루지 않고 내가 정한다는 것 — 만드는 사람으로서 놓치고 싶지 않은 태도입니다. 이 한 주의 뉴스들을 관통하는 질문도 결국 그것이었습니다. 무엇을 할 수 있느냐가 아니라, 그걸 어디까지 우리가 책임지고 정할 것이냐 말입니다.

정리

AI가 완전히 조종하는 F-16의 첫 실제 비행 — AI가 물리 세계로, 되돌릴 수 없는 영역으로.
'보조'와 '조종'은 다르다 — 핵심은 책임·개입 여지·설명 가능성.
지켜야 할 선은 "되돌릴 수 있는가" — 극단적 사례만이 아니라 작은 서비스에도.
한 주의 결론: 능력·비용·공급은 유리해졌지만, 진짜 과제는 여전히 책임 있게 쓰는 법.

참고 자료