[Big hype about ChapGPT in medicine : Is it something for rhythmologists? What must be taken into consideration?]

Herzschrittmacherther Elektrophysiol. 2023 Sep;34(3):240-245. doi: 10.1007/s00399-023-00960-5. Epub 2023 Jul 31.
[Article in German]

Abstract

ChatGPT, a chatbot based on a large language model, is currently attracting much attention. Modern machine learning (ML) architectures enable the program to answer almost any question, to summarize, translate, and even generate its own texts, all in a text-based dialogue with the user. Underlying technologies, summarized under the acronym NLP (natural language processing), go back to the 1960s. In almost all areas including medicine, ChatGPT is raising enormous hopes. It can easily pass medical exams and may be useful in patient care, diagnostic and therapeutic assistance, and medical research. The enthusiasm for this new technology shown even by medical professionals is surprising. Although the system knows much, it does not know everything; not everything it outputs is accurate either. Every output has to be carefully checked by the user for correctness, which is often not easily done since references to sources are lacking. Issues regarding data protection and ethics also arise. Today's language models are not free of bias and systematic distortion. These shortcomings have led to calls for stronger regulation of the use of ChatGPT and an increasing number of similar language models. However, this new technology represents an enormous progress in knowledge processing and dissemination. Numerous scenarios in which ChatGPT can provide assistance are conceivable, including in rhythmology. In the future, it will be crucial to render the models error-free and transparent and to clearly define the rules for their use. Responsible use requires systematic training to improve the digital competence of users, including physicians who use such programs.

ChatGPT, ein auf einem großen künstlichen Sprachmodell basierender Chatbot, erregt derzeit viel Aufmerksamkeit. Moderne, auf komplexen neuronalen Netzwerken beruhende Architekturen (sog. Transformer) erlauben ChatGPT, nahezu beliebige Fragen zu beantworten, Zusammenfassungen anzufertigen, zu übersetzen und eigenständig Texte zu generieren. All dies in einem auf Texteingaben basierenden Dialog mit dem Nutzer. Die zugrundeliegenden Technologien mit dem Akronym NLP (Natural Language Processing) gehen in die 1960er-Jahre zurück. In fast allen Bereichen weckt ChatGPT derzeit viele Hoffnungen. Medizinische Examina besteht ChatGPT problemlos; auch über einen Einsatz in Patientenbetreuung, Diagnostik und Therapie und der medizinischen Wissenschaft wird diskutiert. Die fast grenzenlose Begeisterung, die manche Medizinier dieser neuen Technik entgegenbringen, verwundert. Das System weiß zwar enorm viel, aber nicht alles; auch nicht alles, was es ausgibt, stimmt auch. Jede Ausgabe muss auf ihre Richtigkeit hin vom Nutzer sorgfältig kontrolliert werden – oft nicht einfach, da Quellenangaben fehlen. Auch existieren datenschutzrechtliche und ethisch-moralische Probleme. Heutige Sprachmodelle sind nicht frei von Vorurteilen und systematischer Verzerrung. Diese Unzulänglichkeiten haben Stimmen laut werden lassen, die eine stärkere Regulierung des Einsatzes von ChatGPT fordern.Potenzieller Nutzen und kommerzielle Aspekte dürften dazu führen, dass sich große Sprachmodelle wie ChatGPT zunehmend verbreiten werden. In unserem beruflichen Alltag werden sie immer mehr Platz einnehmen – auch in der Rhythmologie. Zukünftig wird es vor allem darauf ankommen, die Modelle fehlerfreier und transparenter zu gestalten sowie die Regeln für ihre Nutzung klar zu definieren. Eine verantwortungsvolle Nutzung erfordert systematische Schulungen zur Verbesserung der digitalen Kompetenz der Nutzer, einschließlich der Ärzte, die solche Programme einsetzen.

Keywords: Artificial intelligence; Chat-GPT; Language models; Natural language processing.

Publication types

  • English Abstract
  • Review

MeSH terms

  • Artificial Intelligence*
  • Humans
  • Medicine*
  • Software*