Artificial intelligence holds great promise in terms of beneficial, accurate and effective preventive and curative interventions. At the same time, there is also awareness of potential risks and harm that may be caused by unregulated developments of artificial intelligence. Guiding principles are being developed around the world to foster trustworthy development and application of artificial intelligence systems. These guidelines can support developers and governing authorities when making decisions about the use of artificial intelligence. The High-Level Expert Group on Artificial Intelligence set up by the European Commission launched the report Ethical guidelines for trustworthy artificial intelligence in2019. The report aims to contribute to reflections and the discussion on the ethics of artificial intelligence technologies also beyond the countries of the European Union (EU). In this paper, we use the global health sector as a case and argue that the EU's guidance leaves too much room for local, contextualized discretion for it to foster trustworthy artificial intelligence globally. We point to the urgency of shared globalized efforts to safeguard against the potential harms of artificial intelligence technologies in health care.
L'intelligence artificielle regorge de potentiel en matière d'interventions préventives et curatives précises, efficaces et bénéfiques. Mais par la même occasion, elle présente certains risques et peut s'avérer nocive si son développement n'est pas encadré par des règles. Partout dans le monde, des principes directeurs sont instaurés afin de promouvoir un niveau de fiabilité optimal dans l'évolution et l'application des systèmes basés sur l'intelligence artificielle. Ces principes peuvent aider les développeurs et les autorités gouvernementales à prendre des décisions relatives à l'intelligence artificielle. Le Groupe d'experts de haut niveau sur l'intelligence artificielle créé par la Commission européenne a récemment publié un rapport intitulé Lignes directrices en matière d'éthique pour une IA digne de confiance. Objectif de ce rapport : contribuer aux réflexions et discussions portant sur l'éthique des technologies fondées sur l'intelligence artificielle, y compris dans les pays n'appartenant pas à l'Union européenne (UE). Dans ce document, nous utilisons le secteur mondial de la santé comme exemple et estimons que les directives de l'UE accordent un pouvoir discrétionnaire trop important aux autorités locales et au contexte pour véritablement encourager la fiabilité de l'intelligence artificielle dans le monde. Nous insistons également sur l'urgence de mettre en place une protection globale commune contre les éventuels préjudices liés aux technologies d'intelligence artificielle dans le domaine des soins de santé.
La inteligencia artificial es muy prometedora en términos de intervenciones preventivas y curativas beneficiosas, precisas y eficaces. Al mismo tiempo, también hay conciencia de los posibles riesgos y daños que pueden causar los desarrollos no regulados de la inteligencia artificial. Se están elaborando principios fundamentales en todo el mundo para fomentar el desarrollo y la aplicación confiables de los sistemas de inteligencia artificial. Estas directrices pueden servir de apoyo a los desarrolladores y a las autoridades gobernantes en la toma de decisiones sobre el uso de la inteligencia artificial. El Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial establecido por la Comisión Europea ha publicado recientemente el informe Ethical guidelines for trustworthy artificial intelligence (Directrices éticas para una inteligencia artificial confiable). El informe tiene por objeto contribuir a la reflexión y el debate sobre la ética de las tecnologías de inteligencia artificial incluso más allá de los países de la Unión Europea (UE). En este documento, se recurre al sector sanitario mundial como caso de referencia y se argumenta que las directrices de la UE conceden demasiado margen a la discreción local y contextualizada como para fomentar una inteligencia artificial confiable a nivel mundial. Se destaca la urgencia de compartir los esfuerzos internacionales para protegerse de los posibles daños de las tecnologías de inteligencia artificial en la atención sanitaria.
يجمل الذكاء الاصطناعي بين طياته وعوداً جمة فيما يتعلق بالتدخلات الوقائية والعلاجية المفيدة والدقيقة والفعالة. وفي الوقت ذاته، هناك أيضًا وعي بالمخاطر والأضرار المحتملة التي قد تحدث بسبب التطورات غير المنظمة للذكاء الاصطناعي. يتم حالياً تطوير مبادئ توجيهية حول العالم لتعزيز تنمية جديرة بالثقة، وتطبيق أنظمة الذكاء الاصطناعي. يمكن لهذه الإرشادات أن تدعم المطورين والسلطات الحاكمة عند اتخاذ القرارات بشأن استخدام الذكاء الاصطناعي. قامت مؤخراً مجموعة خبراء الذكاء الاصطناعي رفيعي المستوى، التي أسستها المفوضية الأوروبية، بإصدار تقرير بعنوان المبادئ التوجيهية الأخلاقية للذكاء الاصطناعي الجدير بالثقة . يهدف التقرير إلى المساهمة في الأفكار والمناقشة الخاصة بأخلاقيات تقنيات الذكاء الاصطناعي كذلك خارج دول الاتحاد الأوروبي (EU). وفي هذه الورقة، نحن نستخدم قطاع الصحة العالمي كحالة، ونؤمن بأن توجيهات الاتحاد الأوروبي تترك مجالاً كبيراً لتقدير محلي مقترن بالسياق لتعزيز ذكاءً اصطناعياً جدير بالثقة على مستوى العالم. كما نشير إلى الحاجة الملحة لبذل جهود عالمية مشتركة للوقاية من الأضرار المحتملة لتكنولوجيات الذكاء الاصطناعي في الرعاية الصحية.
人工智能在有益、精准和有效的预防与治疗干预方面具有广阔的前景。同时，人们也意识到人工智能的无度发展可能会引起潜在的风险和危害。全世界正在制定指导原则，以促进可信赖的人工智能系统的开发和应用。这些准则可以支持开发人员和管理机构制定有关人工智能用途的决策。由欧盟委员会成立的人工智能高级专家小组最近发布了《可信赖的人工智能伦理准则》(Ethical guidelines for trustworthy artificial intelligence) 报告。该报告旨在促进欧盟 (EU) 以外的国家也开展人工智能技术伦理方面的反思和讨论。在本文中，我们以全球卫生部门为例并且认为欧盟的准则还有很大的完善空间，可以根据当地的具体情况自行决定，在全球范围内促进可信赖的人工智能。我们指出必须立即在全球范围内共同努力，防范人工智能技术在医疗保健领域的潜在危害。.
Искусственный интеллект открывает большие перспективы для имеющих практическую значимость, точных и эффективных мероприятий по профилактике и лечению заболеваний. В то же самое время необходимо принимать во внимание потенциальные риски и вред, которые могут быть вызваны нерегулируемым развитием искусственного интеллекта. В настоящее время идет процесс глобальной разработки руководящих принципов, способствующих надежному и безопасному формированию и применению систем искусственного интеллекта. Данные рекомендации помогут разработчикам и руководящим органам в принятии решений относительно использования искусственного интеллекта. Созданная Европейской комиссией экспертная группа высокого уровня по искусственному интеллекту недавно выпустила отчет, озаглавленный «Этические рекомендации для надежного и безопасного использования искусственного интеллекта». Цель отчета — содействие процессу анализа и обсуждения этической стороны применения технологий искусственного интеллекта за пределами Европейского союза (ЕС). В этой статье авторы рассматривают в качестве примера сектор общественного здравоохранения и доказывают, что рекомендации ЕС предоставляют слишком большую свободу действий на локальном уровне в контексте имеющихся условий, что препятствует обеспечению надежного использования искусственного интеллекта во всем мире. Авторы подчеркивают настоятельную необходимость совместных глобальных усилий по защите от потенциального вреда, который может быть нанесен сфере здравоохранения в результате использования технологий искусственного интеллекта.
(c) 2020 The authors; licensee World Health Organization.