소프트웨어(SW)가 각 산업 전반의 중심이 되면서 안전에 대한 중요성 또한 날로 커지고 있다. 소프트웨어는 작은 오작동으로도 치명적인 사고가 발생할 수 있기 때문이다.

지난해 5월 미국 플로리다에서 테슬라 차량과 트레일러와의 충돌로 운전자가 사망하는 사고가 발생했다. 그 해 9월 미 연방교통안전위원회(NTSB)는 사고 원인을 테슬라의 자율주행시스템 때문이라고 밝혔다. 부분 자율주행기능인 테슬라의 오토파일럿이 트레일러의 옆면 흰색을 인식하지 못해 충돌한 사고였다.

지난 2011년 중국 저장성 원저우에서 두 개의 열차가 충돌한 사고도 소프트웨어(SW) 결함으로 인해 일어났다. 43명의 사망자와 200여명의 부상자라는 최악의 인명피해로 이어진 이 사고는 벼락을 맞고 정지한 앞 열차를 뒤에 오던 열차가 미처 인지하지 못하고 들이박으면서 발생했다. 벼락이 열차와 신호체계 SW프로그램을 모두를 망가뜨리면서 일어난 사고였다.

국내에서도 소프트웨어(SW)로 인한 사고가 있었다. 지난 2014년 서울 지하철 2호선 전동차가 신호기 고장으로 인해 뒤에 오던 전동차와 충돌해 중경상의 부상자들이 발생했다. 모두 소프트웨어(SW)의 오류가 사회 안전을 해치는 대형사고로 이어질 수 있다는 것을 보여주는 사례들이다.

소프트웨어가 미래 사회의 중심, SW 안전이 무엇보다 중요한 시대

미래 지능정보화사회로 발전되면서 인공지능(AI) 등 소프트웨어(SW)의 쓰임은 더욱 확대되고 있다. 이에 따라 발생할 수 있는 오작동을 최소화하고 안전성을 확보할 수 있는 ‘소프트웨어 안전 사회’를 만들기 위해 국가적인 차원에서 노력이 필요하다는 의견이 제시되고 있다.

IEEE(미국 전기·전자 통신 학회) 표준에 따르면 ‘소프트웨어(SW) 안전’이란 전체 시스템의 안전 보장을 위해 외부에 미치는 위험요소를 분석하고 제거하여 소프트웨어의 오류로 인한 사고를 예방하는 것을 의미한다.

이에 송지환 SW정책연구소 선임연구원은 “최근 소프트웨어 안전은 ‘세이브티(safety)’와 ‘시큐리티(security)’가 동시에 적용되어야 한다. 진정한 소프트웨어 안전이란, 단순히 오류에 의한 사고를 예방하는 차원에서 벗어나 사람의 신체나 생명 사고를 발생시킬 가능성이 있는 소프트웨어(SW)에 대해 여러 위험요인의 발생을 방지하거나 이러한 위험요인에 충분한 대비가 되어 있는 상태가 되어야한다”고 강조했다.

그는 23일 과학기술정보통신부 주최로 서울 삼성동 코엑스에서 열린 ‘2017 SW안전 컨퍼런스’에서 SW 안전에 대한 정의를 내리는 한편 미래 SW안전사회로 나아가기 위한 방향성을 제시했다.

송 연구원은 "소프트웨어 안전사회란 열차, 항공기 등 사고가 발생했을 때 대규모 피해가 예상되는 분야인 안전필수분야시스템 뿐만 아니라 안전에 영향을 줄 수 있는 기기까지도 안전성이 확보되어 그런 발생시킬 가능성이 낮은 사회를 뜻한다"고 설명했다.

이어 “이제는 소프트웨어가 없으면 안 될 사회, 소프트웨어가 없으면 아무것도 할 수 없는 사회가 도래하고 있다”고 말하고 “소프트웨어가 오동작하면 사람이 다칠 수 있다. 그러한 이슈를 최소화해서 위해를 가할 가능성이 낮은 사회를 만들어야한다”고 덧붙였다.

한편 해외에서는 소프트웨어 안전사회를 만들기 위해 어떤 노력을 하고 있을까. 인공지능을 통한 자율주행 등 소프트웨어가 산업의 기반이 되고 있는 미국, 유럽 등 세계 주요국에서는 소프트웨어 안전의 중요성을 깨닫고 SW 안전성 문제를 국가와 민간의 협업 하에 구체적이고 치밀하게 발전시켜 나가고 있다.

이들 국가들은 자동차, 철도, 에너지 등 주요 산업분야별 SW 안전 관련 국제표준을 제정하고 SW산업계가 이를 준용할 수 있도록 법과 제도적 기반을 조성하고 있다. 과거에는 하드웨어 중심으로 추상적인 정책을 펼쳤다면 최근에는 안전표준이 상세화되고 SW안전이 부각되는 구체적인 방향으로 산업별 체계적인 지원이 이루어지고 있다.

그런데 우리의 상황은 이와 달리 소프트웨어의 안전성에 대한 인식 자체가 낮은 편이다. 송지환 SW정책연구소 선임연구원은 “소프트웨어 안전에 대한 중요성을 아는 사람도 있지만 필수라고 생각하지 않는 경우가 많았다. 안전을 보안(security) 문제라고만 생각하거나 품질이 곧 안전이라는 잘못된 SW 안전 개념을 가진 이들도 적지 않았다”며 지난 2016년 SW정책연구소가 조사한 ‘SW 안전에 대한 ICT 종사자의 인식설문조사’결과를 공유했다.

세계 주요국들의 소프트웨어 안전에 각별한 노력, 우리는 아직 미흡

법 제도 측면에서도 미흡한 부분이 아직 많다. SW에 관한 현행 법령체계는 ‘재난 및 안전관리 기본법’과 ‘정보통신기반보호법’에 의거해 실행된다. 송 연구원은 “각각 재난 및 안전에 대한 최상위 법률이지만 SW 안전에 대한 세부 내용이 없다”며 현실 법령 체계의 한계를 지적했다.

항공, 철도, 자동차 등 안전필수분야 또한 상대적으로 오랫동안 준비를 해서 규정은 있지만 아직 미흡한 상태이다. 항공은 항공안전법과 군용항공기 비행안전성 인증에 관한 법률이 있고 철도는 철도 안전법, 자동차는 자동차 관리법으로 SW 안전을 관리하고 있다. 하지만 각각 SW의 상세한 명시가 적시되어 있지 않은 분야들이 있어 여전히 미흡한 부분이 있다. 송 연구원은 “국가기반시설, 정보통신기반시설 등의 경우 국민 신체와 생명과 관련된 소프트웨어가 많으나 별도의 안전 요구사항이 부재한 상황”이라고 지적했다.

무엇보다 SW안전사회를 만드는데 가장 중요한 것은 국민들의 SW 안전에 대한 올바른 인식이다. 이와 함께 구체적인 법과 제도를 마련하고 이를 책임지고 지휘할 수 있는 컨트롤타워도 확립되어야 한다.

송 연구원은 “SW안전사회 만들기 위해서는 기반 조성이 가장 중요하다"고 강조하고 "국민들의 안전 개념을 올바르게 심어줄 수 있는 다양한 방안을 강구해야 한다. 국민의 올바른 인식을 기반으로 기업과 안전관리, 기술 및 연구개발, 검인증 등의 피라미드를 쌓는다면 SW 안전사회를 만들 수 있을 것”이라고 조언했다.