현 단계의 수술로봇은 현상적 차원에서의 자율성을 전제하는 AI 와 구별될 수 있고, 자율성을 전제하는 AI의 권리주체성 논의는 적용되기 힘들다. 따라서, 현재 수준의 수술로봇에 대해서는 단순히 의사가 의료행위를 실행하는데 필요한 도구로서의 지위를 부여할 수 밖에 없다. 하지만, 장래에는 AI 수술로봇, 즉 수술실에서 환자의 진단정보를 기반으로 수술환경을 센서로 지각해 자율적 판단으로 수술작업을 담당하는 AI 수술로봇이 등장할 수 있는 것으로 보인다. 이러한 AI 수술로봇의 상용화를 위해서는 먼저 (i) 식품의약품안전처에 의해 “자율수술 시스템” 안전기준을 포함해 AI 수술로봇에 대한 안전기준이 제정되어야 하고, (ii) 문제된 AI 수술로봇이 해당 안전기준에 따라 제작되었는지 검증해 인증하는 절차를 설정하여야 한다. 동시에 보건복지부는 (iii) AI 로봇 안전기준을 통과한 AI 수술로봇으로 로봇 수술을 한 경우 수술에 직접 참여하지 않은 의사를 어느 정도로 면책시켜 줄 것인가에 대하여, 또한 (iv) AI 수술위험의 사회화 여부를 판단해 의료기관 개설자에 대해 AI 수술에 대한 위험 책임을 부과할 것인가 등에 대하여 정책 결정을 하여야 한다. 진단 AI는 인공지능을 이용해 질병을 진단, 관리하거나 예측하는 기능을 수행할 수 있다. 이 점에서 현 단계의 진단 AI는 현상적 차원에서의 자율성을 전제하는 AI로 취급할 수 있고, 자율성을 전제하는 AI의 권리주체성 논의가 적용될 수 있다. 하지만, 의료기관에서 진단 AI를 이용하는 모습을 보면 수술로봇과 같이 단순한 도구로만 사용하고 있고, 그 자율적 결정에 대하여 독자성을 부여하지 않는다. 즉 의료기관 혹은 의사가 진단 AI를 이용해 진단하더라도 최종적 결정은 스스로 행하는 경우 의료기관 혹은 의사가 직접 의료행위를 담당한다고 볼 수 있기 때문에 현재와 같이 병원과 의사는 모든 의무와 책임을 부담하고, 책임법적으로 AI의 책임으로 다룰 수 있는 쟁점은 발생하지 않는다. 하지만, 진단 AI의 진단율이 진단의보다 높아지고 또한 진단행위의 자율성을 고려한다면, AI의 진단행위에 대해서 진단의의 주의의무를 감경 혹은 면제해 줄 가능성이 존재한다. 그런데, 진단 AI를 이용하는 진단의와 의료기관에 대해 주의의무를 실제로 감경 혹은 면제해 주기 위해서는 (i) 진단 AI의 진단능력이 진단의 수준을 넘어서야 하고, 또한 (ii) 그 수준을 담보할 수 있는 진단 AI 에 대한 인증절차가 설정되어야 하고, (iii) 그 인증기준으로서 “자율진단시스템” 안전기준이 제정되어야 한다. 이러한 진단 AI의 안전기준규제체제가 설정되면 인증된 진단 AI를 사용한 진단의의 주의의무를 어느 정도로 면책시킬 것인가의 논의가 진행될 수 있고 보건복지부는 이에 대한 정책적 결정을 해야 할 것이다.

Surgical robots at the present stage is yet to implement AI that presupposes complete autonomy at a phenomenal level, and thus makes it difficult to discuss AI’s subjectivity of rights which should be based on autonomy. Therefore, current-level surgical robots, may only be regarded as and provided the status of supporting tools for surgeons. However, in the future, it seems that AI surgical robots, i.e. robots in charge of surgical operations with autonomous judgment by detecting the surgical environment through sensors based on the patient's diagnostic information in the operating room, will be developed. In order to commercialize these AI surgical robots, (i) the safety standards for AI surgical robots, including the regulations for "autonomous surgical system", must be established by the Ministry of Food and Drug Safety, and (ii) the procedures for verifying and authenticatinat g whether the AI surgical robot in question is manufactured according to the relevant safety standards should be set. At the same time, the Ministry of Health and Welfare shall make policy decisions on (iii) the extent to which doctors who did not participate in the operation will be indemnified from operation by an AI surgical robot that has passed the AI robot safety standards, and (iv) whether founders of medical institutions will be held responsible pursuant to social agreement of AI surgery. Diagnostic AIs can perform the function of diagnosing, managing or predicting diseases using artificial intelligence. Accordingly, diagnostic AIs at the present stage may be regarded as AI that presupposes complete autonomy at a phenomenal level, and thus makes it possible to discuss AI’s subjectivity of rights based on autonomy. However, actual clinical usage of current-level diagnostic AIs are only limited to mere supporting tools for physicians, without room for allowing any level of autonomy. In other words, even if diagnosis is performed using diagnostic AI, the physician will be deemed to be in charge of such medical practices if it was the physician that made the final decision. In that case, no issues arise that point towards AIs for liability, as the medical institutions and physicians bear all duties and responsibilities. In the future, when diagnosis rate of AIs become higher than that of physicians and the autonomy of diagnosis may be recognized, there is possibility that the physician’s duty of care to the diagnosis of AI may be reduced or exempted. In order to actually reduce or exempt the duty of care for physicians and medical institutions that use diagnostic AI, (i) the diagnostic ability of diagnostic AI must exceed the level of physicians, (ii) certification procedures for diagnostic AI must be established to ensure such level, and (iii) “autonomous diagnostic system” safety standards must be established as the basis for certification. Once such safety standards regulation system for diagnostic AI is established, further discussions can be made on to what extent the duty of care for physicians using certified diagnostic AI will be indemnified, which shall be determined through policy decision by the Ministry of Health and Welfare.