[농수축산신문=박현렬 기자]

최근 인공지능(AI)의 위험성에 대한 우려가 지속적으로 제기되는 가운데 AI 기술 전문기업 씽크포비엘과 군산대 ‘ICT특성화취업연계형사업단’이 관련 테스트 설계 교육을 실시해 귀추가 주목된다.

씽크포비엘과 ICT특성화취업연계형사업단은 지난 21~23일까지 비교과 과정으로 ‘데이터 밸런스 기반 AI 신뢰성 검증을 위한 테스트 설계 교육’을 진행했다.

이번 교육은 초거대 AI 소개와 더불어 불균형 데이터로 인한 AI 편향·오류 사례를 경험할 수 있는 시간으로 마련됐다. 이론 교육 뿐만 아니라 ‘데이터 밸런스’를 기반한 데이터 불균형 평가 도구 등을 활용한 AI 신뢰성 검증 실습도 이뤄졌다.

데이터 밸런스는 씽크포비엘이 독자 개발한 기술로 AI가 적용되는 분야에서 발생하는 예기치 못한 상황을 기술적·객관적으로 설계·검증해 AI 편향 등을 잡을 수 있다. 하위 기법 5건은 한국정보통신기술협회(TTA) 단체표준으로 채택된 바 있다.

최근 산업계 중요 이슈인 AI 신뢰성과 관련한 교육은 국내 최초로 4년 전부터 시작됐다.

이번에 정보통신기획평가원(TTP) 방송통신 정책연구로 마련된 개발자 대상 AI 신뢰성 교육 커리큘럼이 첫 시범 적용됐다는 점도 주목할 만하다.

교육에서는 데이터 안전 진단 직군과 신뢰성 비즈니스 기획 직군 일부가 적용됐다.

군산대 관계자는 “수강생이 AI 신뢰성 확보에 필요한 기술을 숙지하고 AI 신뢰성 검증용 데이터셋(컴퓨터에서 사용할 수 있도록 저장된 유사하거나 관련된 데이터 집합체) 설계 역량을 기르면 취업 취약계층으로 여겨지는 지역대학 출신 한계를 극복하고 독보적인 경쟁력을 갖출 수 있을 것”이라고 밝혔다.

박지환 씽크포비엘 대표는 “현재 AI 기술은 상상을 초월하는 속도와 규모로 텍스트나 화상, 동영상 등을 조작·유포·확산할 수 있는 수준으로 발전했는데 관련 피해를 최소화하려면 치명적 오작동과 악용 범죄 등에 대처하기 위한 전문 인력 양성이 요구된다”며 “전문인력은 장기적인 계획에 따라 오랜 기간 숙련·육성돼야 하지만 국내에서는 제대로 된 시도가 이뤄지지 않고 있다”고 설명했다.