열린장관실

[고위급 라운드테이블] 

Opening Remarks by H.E. Park Jin

Minister of Foreign Affairs of the Republic of Korea

Responsible AI in the Military Domain Summit (REAIM) 

February 16, 2023

Minister Hoekstra, 

Minister Ollengren,

Distinguished Guests,

Ladies and Gentlemen, 

The Republic of Korea is very pleased 

to co-host the REAIM Summit 

together with the Netherlands.

The rapid development of technology 

is offering unprecedented opportunities 

to shape our world for the better. 

And Artificial Intelligence (AI) stands out 

as one of the most promising of these technologies.

And that is why Korea made the strategic decision 

to leverage AI as a catalyst 

for promoting social and economic progress.

This year is widely considered 

to be a breakout year for AI, 

with ChatGPT taking the world by storm. 

Bill Gates even said

that this “will change the world”.  

As we talk about the future of AI, 

I am reminded of the thought-provoking book 

Superintelligence by Nick Bostrom 

-a philosopher from  University of Oxford.

Bostrom was ahead of us by ten years

in raising concerns that the development of AI

could lead to machines replacing humans 

as the dominant life form on this planet.

He argued that the responsible development 

and use of AI is especially critical 

in the military domain.

Likewise, it is important to acknowledge 

that this cutting-edge technology 

presents new challenges 

that demand our collective attention. 

And the military domain is no exception, 

perhaps more pronounced.

The integration of AI in military operations 

holds significant implications for our security. 

AI can help to improve the efficiency 

and effectiveness of military operations 

by enabling informed decision-making, 

quick responses and reducing civilian casualties. 

With this in mind, Korea launched 

the Defense Innovation 4.0 Initiative 

to incorporate AI and other advanced technologies 

into our defense capabilities. 

But the military use of AI 

raises important questions 

about accountability, transparency and its responsible use. 

And tech leaders such as Elon Musk 

sounded the alarm 

that lethal autonomous weapons 

threaten to become “the third revolution in warfare.” 

It is in this context that Korea, 

in our aspiration to become a global pivotal state (GPS), 

is committed to working with partners 

to align the use of AI 

with our shared values and aspirations. 

On our part, Korea established a national strategy 

and ethical standards under the theme “AI for humanity,” focusing on human dignity, public good 

and the proper use of technology.  

Going forward, the international community 

should come together to find ways 

to leverage the power of AI while mitigating its risks. 

And, in my view, we should prioritize the following.

First, we need to raise international awareness 

on the benefits and risks of AI 

and ways to promote its responsible use, 

especially in the military domain. 

Secondly, we should promote a multistakeholder approach that brings together governments, 

the private sector, academia and civil society 

in understanding and addressing the threats. 

Lastly, we must focus on building confidence 

and trust to reduce the risks posed by AI 

through information sharing and dialogue 

- as we have gathered today.

Ladies and Gentlemen,

As I made my way to The Hague, 

I took the opportunity to ask 

Chatbot’s views on this subject.  

The Chatbot eloquently replied that 

it requires the creation of ethical guidelines, principles, and frameworks to govern AI systems. 

And that we should ensure 

that these systems are transparent, accountable, 

and aligned with international humanitarian law. 

Very clever and well balanced.

With that thought in mind, 

I encourage all participants 

to actively engage in discussions on this vital issue. 

Together, we can find innovative solutions 

to harness the power of AI 

and build a more prosperous and secure future.

President Yoon and Prime Minister Mark Rutte 

agreed to elevate our bilateral relationship 

to a strategic partnership and 

installed a new Strategic Dialogue.

Our co-hosting of this event is in line 

with our efforts to further expand our cooperation 

in the strategic domain of advanced digital realms. 

I would like to take this opportunity to 

appreciate Netherland’s exceptional leadership.

Thank you. 

-----------------------------------(비공식 국문 번역문)------------------------------------

고위급 세션 발언

훅스트라 장관님, 올롱그렌 장관님, 내외 귀빈 여러분, 신사숙녀 여러분,

한국은 네덜란드와 함께 인공지능의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM)를 공동 개최하게 되어 매우 기쁩니다.

기술의 급속한 발전은 더 나은 세상을 만들 수 있는 전례 없는 기회를 제공하고 있습니다.

그리고 인공지능(AI)은 이러한 기술 중 가장 유망한 기술 중 하나입니다.

그래서 한국은 인공지능을 활용하여 사회 경제적 발전을 촉진하겠다는 전략적 결정을 내렸습니다.

올해는 ChatGPT가 세계를 강타하는 등

인공지능의 도약의 해로 여겨지고 있습니다. 

빌게이츠도 이것이 "세상을 바꿀 것"이라고 하기도 했습니다.

인공지능의 미래에 대해 이야기하면 옥스퍼드대학교 철학자인 닉 보스트롬(Nick Bostrom)의 슈퍼인텔리전스(Superintelligence)라는 책이 생각납니다.

보스트롬은 인공지능의 발전이 기계가 인간을 대체하고 지구상의 지배적인 생명체가 될 수 있다는 우려를 제기하는 데 있어 우리보다 10년 앞서 있었습니다.

그는 인공지능의 책임 있는 발전과 사용이 특히 군사 영역에서 중요하다고 주장했습니다. 

마찬가지로 이 최첨단 기술은 우리의 집단적 관심이 필요한 새로운 도전을 제시합니다.

그리고 군사 영역도 예외는 아니며, 이러한 점이 더욱 두드러진다고 봅니다.

인공지능이 군사 작전에 통합되는 것은 우리의 안보에 중요한 함의가 있습니다. 

인공지능은 정보에 기반한 의사 결정, 신속한 대응과 민간인 사상자 감소를 가능케 함으로써 군사 작전의 효율성과 효과성 향상에 도움이 될 수 있습니다.

이를 염두에 두고 한국은 인공지능 및 기타 첨단 기술을 우리의 국방 능력에 통합하기 위해 국방혁신 4.0 이니셔티브를 발표했습니다.

그러나 인공지능의 군사적 사용은 책임, 투명성 및 책임 있는 사용에 대해 중요한 질문을 제기합니다.

그리고 Elon Musk와 같은 기술 분야에서의 리더는 자율 살상 무기가 "전쟁의 제3의 혁명”이 될 것이라고 경보를 울리기도 했습니다.

이러한 맥락에서 한국은 글로벌 중추 국가가 되기 위한 비전을 갖고, 인공지능의 사용을 우리의 공통 가치와 열망에 일치시키기 위해 파트너들과 협력하고 있습니다.

한국은 ‘사람 중심의 인공지능’이라는 주제 하에 인간의 존엄성, 사회의 공공성, 기술의 합목적성 원칙을 중심으로 한 국가 전략과 윤리 기준을 수립했습니다. 

앞으로 국제사회는 위험을 완화하며 인공지능을 활용할 방법을 찾기 위해 함께 해야 합니다.

우리는 아래 세 가지를 우선해야 합니다.

첫째, 국제사회의 인식을 제고해야 합니다.

특히 군사 영역에서 인공지능의 이점과 위험에 대해 책임 있는 사용을 증진하는 방법과 관련한 부분에서 그렇습니다.

둘째, 다중 이해관계자 접근을 장려해야 합니다.

위협을 이해하고 대응하는 데 정부와 민간 부문, 학계 및 시민사회가 함께 해야 합니다.

마지막으로 신뢰구축에 집중해야 합니다.

오늘 우리가 여기 모인 것처럼 정보 공유와 대화를 통해 인공지능으로 인한 위험을 줄일 수 있기를 바랍니다.

신사숙녀 여러분,

헤이그로 오는 길에, 챗봇에게 이 문제에 대한 견해를 물어보았습니다.

챗봇은 유창하게 AI 시스템을 관리하기 위한 윤리적 지침, 원칙 및 프레임워크를 만들어야 한다고 답했습니다. 그리고 우리는 이러한 시스템이 투명하고 책임성을 갖추고, 국제인도법에 부합하게 활용되도록 보장해야 한다고 했습니다. 아주 균형 잡히고 똑똑한 답변입니다.

이 생각을 염두에 두고, 참가자 여러분들이 이 중요한 문제에 대한 토론에 적극적으로 참여하기를 바랍니다.

함께하면 인공지능의 힘을 활용하고 더욱 번영하고 안전한 미래를 만들기 위한 혁신적인 솔루션을 찾을 수 있습니다.

윤석열 대통령과 마크 루터 총리는 양국 관계를 전략적 동반자로 발전시키고, 한-네덜란드 전략대화를 최초로 개최하기로 하였습니다.

우리가 이 행사를 공동 주최하는 것은 우리의 협력을 전략적인 첨단 디지털 분야로 더욱 확대하기 위한 노력의 일환입니다.

이 기회를 빌어 네덜란드의 탁월한 리더십에 감사드립니다.

감사합니다.

[폐회사] 

Closing Remarks by H.E. Park Jin 

Minister of Foreign Affairs of the Republic of Korea

Responsible AI in the Military Domain Summit (REAIM) 

February 16, 2023

Hello everyone, 

My name is Park Jin, 

Foreign Minister of the Republic of Korea. 

I would like to extend my gratitude to the Netherlands 

for their exceptional leadership 

in organizing the REAIM Summit 

and for their gracious hospitality. 

The Hague - known as the 

'International City of Peace and Justice’ – 

provides the ideal setting for this important gathering.

More than 40 sessions were held yesterday 

with an impressive number of people 

from more than 80 countries 

to discuss military applications of AI and its implications.

And I have the feeling 

that all of us agree 

that the impact of AI on our lives are so significant 

that no country is free 

from the current challenges that we face.

When I think of Artificial Intelligence(AI), 

like many of you, 

the movie Terminator comes to mind. 

As you know, the film is about stopping 

the rise of a dangerous AI system called Skynet 

to safeguard the future of humanity. 

It is a cautionary tale about the dangers of AI 

and its potential unintended consequences

which many participants today pointed out.

The REAIM Summit 

marks a significant step in raising global awareness 

about these potential risks 

and the importance of developing and using AI 

responsibly.

Over the past two days, 

we had productive discussions 

with experts from diverse backgrounds 

on the opportunities and challenges presented by AI. 

With the wisdom gained from the conference, 

we should proceed and act 

to prevent wrong uses of AI in the military domain. 

Because AI is evolving rapidly, 

we must prepare and act before it is too late. 

This is all the more important especially for Korea, 

which is facing a real threat from North Korea

in terms of escalating weapons of mass destruction program,

including nuclear and missile threats.

The challenge of controlling the military application 

of AI is different from what we did 

in the past. 

One major difference is that AI 

is primarily about invisible software, 

not visible hardware. 

Another challenge is the potential tension 

between those who already have AI technologies 

and those who do not. 

AI is closely tied to our daily lives and economy, 

so there will be natural reservations 

to any controlling mechanism that prevents latecomers 

from developing their own AI technology. 

Ladies and Gentlemen, 

As a leading Asian nation in AI development, 

Republic of Korea recognizes the significance 

of pursuing meaningful dialogue on this topic. 

This also aligns with the 

Yoon Suk-yeol Government’s priority 

to establish a digital order 

that promotes freedom, solidarity, and human rights.  

Therefore, Korea is committed to 

securing political attention to the issue and 

promoting international discussions.

We will prioritize facilitating dialogue 

among relevant stakeholders - including governments, 

the private sector, civil society, and academia. 

In doing so, we will build on our experiences 

from hosting the Conference on Cyberspace, 

and the Nuclear Security Summit, 

which we organized together with the Netherlands 

and the United States.

To this end, we plan to delve into 

the implications of AI on global peace and security 

at the annual World Emerging Security Forum 

hosted by Korea later this year. 

And more importantly, 

Korea is proud to announce that it will host

the 2nd REAIM Summit in Korea in cooperation with the Netherlands.

Let me close by saying 

that the responsible military use of AI 

is not just a technical matter, but a political one 

that requires the attention and commitment of all of us.  

Therefore, I would like to encourage our partners 

to join us in supporting 

the REAIM Summit’s Call to Action.

Korea also appreciates the efforts of the United States 

to develop a political declaration 

that promotes best practices. 

We must continue to work together 

to ensure this issue remains a priority 

on our political agenda.

Once again, I would like to thank all of you 

for your active engagement and contributions.  

Thank you very much. 

-----------------------------------(비공식 국문 번역문)------------------------------------

폐회사 

안녕하세요. 박진 대한민국 외교부 장관입니다.

이 회의를 준비한 네덜란드의 탁월한 리더십과 환대에 감사를 표합니다.  

국제평화와 정의의 도시로 알려진 헤이그는 오늘 이 중요한 모임을 갖기에 이상적인 장소입니다. 

인공지능 기술의 군사적 적용과 그 함의에 대해 논의하기 위해서 80개국 이상에서 많은 분들이 참석한 가운데, 어제와 오늘 40개 이상의 부대세션이 개최되었습니다. 

그리고 저는 우리의 삶에 대한 AI의 영향력이 매우 크기 때문에 어떤 국가도 우리가 직면한 현재의 도전으로부터 자유로울 수 없다는 데 대해 우리 모두가 동의한다고 생각합니다.

‘인공지능’이라 하면 여러분들과 마찬가지로 저도 영화 터미네이터 가 떠오릅니다.

아시다시피 터미네이터라는 Skynet이라는 위험한 인공지능 시스템의 성장을 막고 인류의 미래를 지키는 내용으로, 인공지능의 위험성과 더불어 인공지능 기술의 의도하지 않은 잠재적 문제에 대한 이야기입니다. 

금번 REAIM 회의는 이러한 잠재적 위험과 책임있는 인공지능의 개발 및 사용의 중요성에 대해 국제사회의 관심을 제고하는 중요한 계기입니다.  

지난 이틀간 다양한 배경의 전문가들과 인공지능이 제시하는 기회와 도전을 주제로 생산적인 토론을 하였습니다.  

이번 회의에서 얻은 지혜를 활용하여, 우리는 AI가 군사적으로 악용되는 것을 방지하기 위해 나아가야 합니다. 그 이유는 AI는 빠르게 발전하고 있고, 우리는 너무 늦기 전에 준비하고 행동해야 하기 때문입니다.

이것은 특히 핵‧미사일 위협을 포함한 북한의 대량살상무기 프로그램이라는 실질적인 위협에 직면하고 있는 한국에게 있어 더욱 중요합니다. 

인공지능의 군사적 적용을 통제하는 데 있어 발생하는 도전은 과거 우리가 당면했던 것과는 또 다릅니다.

중요한 차이점 하나는 인공지능은 형체가 있는 하드웨어가 아니라, 눈에 보이지 않는 소프트웨어라는 것입니다.

또 다른 어려움은 이미 인공지능 기술을 보유한 국가와 그렇지 않은 국가간의 잠재적 갈등입니다.

인공지능은 우리의 일상과 경제에 밀접하게 연결되어 있는 만큼, 후발주자가 그들의 자체적인 인공지능 기술 개발을 억제하는 통제 매커니즘에 대해 자연스러운 유보적 의견이 있을 것입니다. 

그러므로 신사숙녀 여러분,

아시아의 인공지능 선도국가 한국은, 이 주제에 대한 의미있는 대화를 촉진하는 것의 중요성을 인지하고 있습니다.  

이는 또한 자유, 연대, 인권을 증진하는 디지털 질서 확립을 위한 윤석열 정부의 우선순위와 맥락을 같이 하고 있습니다.  

따라서 한국은 이에 대한 정치적 관심을 이끌어내고, 국제적 논의를 촉진하고자 합니다. 

우리는 정부, 민간, 시민사회 및 학계를 포함하는 관련 이해관계자간의 대화를 촉진하는 것을 우선순위에 둘 것입니다.

이러한 과정에서, 네덜란드 및 미국과 함께 준비했던 사이버스페이스 총회와 핵안보정상회의의 주최 경험을 발전시켜 나갈 것입니다. 

이를 위해 우리는 금년말 한국이 주최 예정인 연례 세계신안보포럼에서 인공지능이 세계 평화와 안보에 미치는 영향에 대해 심도있게 논의하고자 합니다.

더욱 중요하게는, 한국이 네덜란드와 협력하여 제2차 REAIM 회의를 한국에서 개최할 계획을 자랑스럽게 발표합니다. 

마지막으로, 인공지능의 책임있는 군사적 이용은 기술적인 문제일 뿐만 아니라 우리 모두의 관심과 헌신이 필요한 정치적 문제입니다.

따라서, 우리의 파트너 국가들에게 REAIM 회의의 결과문서인 Call to Action에 대한 지지를 당부하고 싶습니다. 

한국은 또한 최선 관행을 촉진하는 정치적 선언을 발전시켜나가는 미국의 노력을 평가합니다. 

우리는 인공지능의 책임있는 이용이라는 문제가 우리의 정치적으로 우선적으로 다뤄질 수 있도록 계속해서 함께 노력해나가야 합니다.

다시 한 번 모든 분들의 적극적인 참여와 기여에 사의를 표합니다. 

감사합니다.