ChatGPT가 처음 등장했을 때 기업이 받은 충격은 비교적 분명했습니다.

보고서를 요약하고, 이메일을 쓰고, 번역하고, 자료를 정리하고, 코드를 만드는 속도가 갑자기 달라졌습니다.

그때 우리가 가장 많이 던졌던 질문은 이것이었습니다.

내가 하던 일 가운데 무엇을 AI로 더 빨리 할 수 있을까?

몇 년이 지난 지금 이 질문은 여전히 중요합니다.

하지만 AI는 그 자리에 머물지 않았습니다.

그다음에는 한 번의 질문에 답하는 것을 넘어 여러 단계의 업무를 이어서 수행하는 에이전틱 AI가 등장했습니다.

그리고 2026년 9월 3일 공개된 GPT-6 Astra는 질문을 한 번 더 바꾸고 있습니다.

OpenAI는 Astra가 복잡한 추론, 브라우징, 컴퓨터 사용, 소프트웨어 작업, 리서치 같은 일을 하나의 긴 흐름으로 수행할 수 있다고 설명합니다. 특히 사이버보안 영역에서는 사람이 각 단계를 일일이 안내하지 않아도 알려지지 않은 취약점을 찾아내고, 여러 약점을 이어 실제 공격 시나리오까지 구성할 수 있는 수준의 능력을 보였다고 평가했습니다.

OpenAI의 준비성 평가에서 사이버보안 역량이 ‘Critical’ 수준에 도달한 첫 모델입니다.

그런데 더 흥미로운 것은 그다음입니다.

능력이 커졌다고 해서 OpenAI가 그 능력을 그대로 풀어놓은 것은 아닙니다.

오히려 일부 고위험 기능에는 더 강한 제한을 걸었고, 기업 고객에게는 Astra 접근을 기본적으로 꺼둔 상태로 제공했습니다.

여기서 AI 시대의 더 어려운 문제가 드러납니다.

AI가 할 수 있는 것과 AI에게 맡겨도 되는 것은 같은가.

첫 번째 충격은 생산성이었습니다

생성형 AI의 첫 충격은 사람의 생산성을 크게 높였다는 데 있었습니다.

사람이 질문하면 AI가 답했습니다.

사람이 초안을 부탁하면 AI가 만들었습니다.

사람이 결과를 확인하고 다음 행동을 결정했습니다.

구조를 단순하게 보면 이렇습니다.

사람의 지시 → AI의 산출 → 사람의 검토 → 사람의 다음 행동

업무 흐름의 중심에는 여전히 사람이 있었습니다.

그래서 이 단계에서 중요했던 것은 AI를 얼마나 잘 활용하는가였습니다.

좋은 질문을 하는 사람.

AI가 만든 결과를 빠르게 검토하는 사람.

자신의 업무에 AI를 적절히 끼워 넣는 사람이 더 많은 일을 더 빨리 할 수 있었습니다.

첫 번째 충격의 핵심은 생산성이었습니다.

두 번째 충격은 업무 수행 주체가 달라졌다는 것입니다

에이전틱 AI가 등장하면서 변화의 수준이 달라졌습니다.

AI가 한 번의 질문에 결과 하나를 내놓고 멈추지 않습니다.

목표를 받으면 해야 할 일을 나눕니다.

필요한 자료를 찾습니다.

다른 프로그램이나 시스템을 사용합니다.

필요하면 다른 에이전트를 호출합니다.

중간 결과를 확인하고 다음 행동으로 넘어갑니다.

사람이 모든 단계마다 다시 지시하지 않아도 업무의 일부가 이어질 수 있습니다.

구조도 달라집니다.

사람의 목표·기준 설정 → AI의 연속 수행 → 결과 확인 → 예외 시 사람 개입 → 다시 실행

여기서 질문은

“AI를 어디에 활용할까?”에서

“AI에게 어디까지 맡길까?”로 바뀝니다.

두 질문은 비슷해 보이지만 전혀 다릅니다.

첫 번째는 도구 활용의 문제입니다.

두 번째는 업무 수행 권한을 어디까지 넘길 것인가의 문제입니다.

에이전틱 AI가 조직에 주는 충격이 큰 이유가 여기에 있습니다.

AI가 단순한 보조도구가 아니라 실제 업무 흐름 안의 수행 주체로 들어오기 시작하기 때문입니다.

Astra가 보여주는 세 번째 충격

Astra는 이 흐름을 한 단계 더 밀어붙입니다.

Astra가 중요한 이유는 단순히 “더 똑똑한 모델”이 나왔기 때문이 아닙니다.

AI에게 일을 맡길 때 사람이 설명해야 하는 절차의 양이 줄어들고 있기 때문입니다.

과거에는 이런 식으로 지시해야 했습니다.

먼저 이것을 확인하라.

그다음 이 자료를 비교하라.

문제가 생기면 이렇게 처리하라.

마지막에는 이 형식으로 보고하라.

하지만 모델의 범용 능력이 높아질수록 사람은 점점 절차보다 목표와 조건을 중심으로 일을 맡길 수 있게 됩니다.

상황이 바뀌면 AI가 새로운 경로를 찾고, 필요한 도구를 사용하고, 다음 행동을 선택하는 범위가 넓어집니다.

그러면 질문은 또 한 번 바뀝니다.

“AI에게 어떤 작업을 시킬까?”에서

“AI에게 어느 수준의 판단과 행동까지 위임할까?”로 이동합니다.

여기서 말하는 판단은 AI가 인간과 똑같이 사고한다는 뜻이 아닙니다.

조직의 입장에서 더 중요한 변화는, AI가 상황을 해석하고 여러 선택지 가운데 다음 행동을 결정하면서 사람이 위임할 수 있는 업무 범위가 넓어진다는 것입니다.

세 번째 충격의 핵심은 위임 범위의 확대입니다.

그런데 만든 회사가 먼저 선을 그었습니다

바로 이 지점에서 Astra가 흥미롭습니다.

Astra의 사이버보안 능력이 크게 높아지자 OpenAI는 모든 능력을 동일하게 열어두지 않았습니다.

일부 고위험 작업에는 더 강한 보호조치를 적용했습니다.

개념증명용 공격 코드를 만드는 것처럼 실제 악용 가능성이 큰 요청은 제한했습니다.

더 넓은 고급 기능도 검증된 조직에 제한적으로 제공하도록 설계했습니다.

그리고 Enterprise와 Edu 고객에게는 출시 시 Astra 사용이 기본적으로 꺼진 상태로 제공됐습니다.

실제로 사용할지 여부를 워크스페이스 관리자가 직접 결정하도록 한 것입니다.

이 장면이 중요합니다.

능력이 커졌기 때문에 더 많은 권한을 자동으로 준 것이 아니라, 오히려 권한을 더 세밀하게 나눴습니다.

OpenAI 스스로 모델이 할 수 있는 범위와 실제 사용자에게 허용하는 범위를 분리한 것입니다.

기업에도 같은 문제가 생깁니다.

AI가 어떤 일을 할 수 있다는 사실만으로 그 일을 맡겨도 되는 것은 아닙니다.

능력이 커질수록 위임 기준이 더 중요해집니다

사람 조직에서도 능력과 권한은 같은 것이 아닙니다.

일을 잘하는 직원이라고 해서 모든 정보를 볼 수 있는 것은 아닙니다.

모든 금액을 승인할 수도 없습니다.

모든 위험을 혼자 감수할 수도 없습니다.

역할이 있고,

권한 범위가 있고,

리스크 한도가 있고,

컴플라이언스가 있고,

상향해야 하는 조건이 있습니다.

AI가 실제 업무 수행 주체가 된다면 AI에게도 비슷한 운영 조건이 필요해집니다.

어떤 역할을 맡길 것인가.

어떤 정보와 시스템에 접근하게 할 것인가.

어떤 수준까지 스스로 실행하게 할 것인가.

어떤 위험에서는 반드시 사람에게 넘기게 할 것인가.

무엇은 아예 하지 못하게 할 것인가.

어떤 결과는 반드시 사람이 다시 검토해야 하는가.

AI의 성능이 높아질수록 이런 질문은 줄어드는 것이 아니라 오히려 더 중요해집니다.

위임할 수 있어도 책임까지 사라지는 것은 아닙니다

여기서 더 어려운 문제가 하나 남습니다.

책임입니다.

AI가 수행할 수 있는 일이 많아질수록 실행은 AI에게 더 많이 넘어갈 수 있습니다.

하지만 결과에 대한 설명과 책임까지 같은 방식으로 넘길 수 있는 것은 아닙니다.

예를 들어 AI가 채용 지원자 수천 명을 분석해 일부 후보자를 탈락시킬 수 있다고 해보겠습니다.

기술적으로는 충분히 가능할 수 있습니다.

하지만 탈락한 지원자가 이유를 묻는다면 누가 답해야 할까요.

AI가 고객의 보상 여부를 자동으로 판단했다고 해도, 잘못된 결정이 내려졌을 때 고객에게 설명하고 수정하는 주체는 누구일까요.

AI가 기업대출을 분석하고 위험을 평가했더라도, 결과적으로 부실이 발생했을 때 “AI가 그렇게 판단했습니다”라는 말로 책임이 끝날 수 있을까요.

그렇기 어렵습니다.

실행 권한은 위임할 수 있지만, 설명과 책임의 구조는 별도로 설계해야 합니다.

그래서 기업이 AI를 도입할 때 정해야 하는 것은 두 가지입니다.

AI에게 어디까지 행동할 권한을 줄 것인가.

그리고

그 결과를 누가 검토하고, 설명하고, 수정하며, 책임질 것인가.

이 둘은 함께 설계돼야 합니다.

관리자 역할도 이미 달라지기 시작했습니다

이 변화는 미래의 이야기만은 아닙니다.

Astra의 기업 고객 기본 비활성화 정책만 봐도 그렇습니다.

기업 안에서 Astra를 사용할 것인지, 어떤 사용자에게 열어줄 것인지 결정하는 권한이 이미 관리자에게 넘어가 있습니다.

지금까지 관리자는 주로 사람을 관리했습니다.

업무를 배분하고,

진척을 확인하고,

성과를 평가하고,

규정을 지키는지 보고,

예외가 생기면 개입했습니다.

그런데 AI가 업무 수행 주체가 되기 시작하면 관리자는 새로운 질문도 다뤄야 합니다.

어떤 AI를 사용할 것인가.

누구에게 접근 권한을 줄 것인가.

어떤 업무에 사용할 것인가.

어떤 품질 기준을 요구할 것인가.

어떤 컴플라이언스를 적용할 것인가.

어느 범위까지 자율적으로 행동하게 할 것인가.

어떤 조건에서 멈추게 할 것인가.

그리고 그 결과를 누가 책임질 것인가.

이렇게 보면 미래 관리자의 역할은 완전히 새로운 직업이 되는 것이라기보다, 현재 리더가 사람에게 하던 운영 역할이 AI 수행 주체까지 확장되는 것에 가깝습니다.

사람을 관리하는 리더에서, 사람과 AI의 역할·권한·성과·위험을 함께 운영하는 리더로.

세 번의 충격을 다시 보면

생성형 AI가 처음 등장했을 때 우리의 질문은 이랬습니다.

AI를 어떻게 더 잘 활용할 것인가?

에이전틱 AI가 등장하면서 질문은 달라졌습니다.

AI에게 어디까지 일을 맡길 것인가?

Astra가 보여주는 변화는 질문을 한 단계 더 밀어붙입니다.

AI가 스스로 판단하고 행동할 수 있는 범위가 넓어질 때, 어디까지 권한을 줄 것인가?

그리고 여기서 반드시 한 가지 질문을 더 붙여야 합니다.

그 권한이 만들어낸 결과는 누가 책임질 것인가?

이 두 질문을 분리하면 안 됩니다.

AI에게 더 많은 일을 맡길수록 인간의 역할이 사라지는 것이 아니라, 오히려 위임의 기준을 정하고 결과를 설명하는 역할이 더 중요해질 수 있습니다.

그래서 Astra의 가장 큰 충격은 성능이 아닐 수 있습니다

Astra의 사이버보안 능력이 Critical 수준에 도달했다는 사실은 분명 인상적입니다.

하지만 기업의 입장에서 더 중요한 장면은 따로 있습니다.

모델의 능력이 커지자 만든 회사가 먼저 물었습니다.

어디까지 허용할 것인가.

그리고 실제로 일부 능력에는 제한을 걸었습니다.

기업 고객에게는 기본적으로 접근을 꺼두고 관리자가 직접 사용 여부를 결정하도록 했습니다.

이것은 앞으로 모든 기업이 AI를 운영하면서 만나게 될 문제를 먼저 보여줍니다.

AI는 계속 더 많은 일을 할 수 있게 될 것입니다.

그렇다고 그 능력을 모두 업무 권한으로 전환할 수는 없습니다.

능력과 권한 사이에는 조직이 정해야 할 경계가 있습니다.

그리고 권한을 넘긴 뒤에도 결과에 대한 책임은 남습니다.

그래서 기업이 앞으로 정해야 할 것은 단순히 “AI가 무엇을 할 수 있는가”가 아닙니다.

더 중요한 질문은 이것입니다.

어떤 위험과 품질 기준 아래에서 AI에게 어디까지 맡길 것인가.

그리고 바로 다음 질문입니다.

그 결과를 누가 검토하고, 누가 설명하며, 누가 책임질 것인가.

생성형 AI는 생산성을 흔들었습니다.

에이전틱 AI는 업무 수행 구조를 흔들고 있습니다.

Astra는 그다음 문제를 우리 앞에 놓았습니다.

AI의 능력이 커질수록, 위임의 경계와 책임의 위치를 무엇을 기준으로 정할 것인가.

어쩌면 이것이 기업이 준비해야 할 세 번째 충격인지도 모릅니다.