Chatbots kunnen nuttige tools zijn voor gezondheidswerkers, maar ze mogen niet worden gezien als een vervanging voor menselijke interactie en expertise. Het is cruciaal om ze verantwoordelijk en met voorzichtigheid te gebruiken. Ze hebben ook hun eigen nadelen, die we hieronder zullen bespreken.

Het is een misverstand dat een chatbot zelf denkt of inhouden begrijpt. Een chatbot is een tool die taal via kansberekening voorspelt en inschat welk woord er na welk woord binnen een context zou moeten komen. Hierdoor is het aan te raden niet al je vertrouwen in de tool te leggen en zelf te dubbel checken.

Hallucinaties

AI-Chatbots zijn getraind op bestaande teksten. Wanneer een AI model iets nog niet heeft geleerd of iets ongekend als prompt krijgt gaat de chatbot niet zeggen dat die het niet weet maar zelf een antwoord verzinnen. Dit heten we hallucineren. Deze hallucinaties zijn fouten in de gegenereerde tekst die correct lijken, maar eigenlijk onjuist of onzinnig zijn. Met andere woorden, het is niet altijd raadzaam om te vertrouwen op de informatie die door de chatbot wordt verstrekt.

ChatGPT heeft zijn vorige correcte antwoord ten onrechte ingetrokken. Dit probleem deed zich voor in eerdere versies van ChatGPT.

ChatGPT heeft zijn vorige correcte antwoord ten onrechte ingetrokken. Dit probleem deed zich voor in eerdere versies van ChatGPT.

Let op dat ChatGPT niet deterministisch is. Dit betekent dat het verschillende antwoorden kan geven en zelfs zichzelf kan tegenspreken wanneer het dezelfde prompt krijgt. OpenAI, het bedrijf verantwoordelijk voor ChatGPT, werkt echter voortdurend aan het verminderen van gevallen van onjuiste reacties in ChatGPT 4.

ChatGPT gaat ten onrechte ervan uit dat er geen Afrikaanse landen zijn die beginnen met de letter K.

ChatGPT gaat ten onrechte ervan uit dat er geen Afrikaanse landen zijn die beginnen met de letter K.

Chatbots kunnen onnauwkeurige informatie genereren wanneer ze een vraag krijgen waarop ze geen antwoord weten. In plaats van toe te geven dat ze het antwoord niet weten, kunnen ze een zelfverzekerde maar onjuiste reactie geven. Dit kan leiden tot de verspreiding van misinformatie en moet worden overwogen bij het gebruik van chatbots voor taken die nauwkeurige informatie vereisen.

Bias

Chatbots staan erom bekend dat ze vooringenomenheid in hun reacties kunnen vertonen, waarbij vaak stereotyperende of bevooroordeelde inhoud wordt gegenereerd. Dit komt doordat ze worden getraind op grote datasets die mogelijk bevooroordeelde informatie bevatten.

Ondanks de veiligheidsmaatregelen om dit te voorkomen, kunnen chatbots soms inhoud produceren die seksistisch, racistisch of homofobisch is. Schadelijke stereotypen en bevooroordeelde resultaten zijn momenteel enkele van de grootste uitdagingen bij AI-chatbots.

Bevooroordeelde aanbevelingen van AI-chatbots zijn het gevolg van training op basis van menselijk gedrag en beslissingen. AI-chatbots kunnen bevooroordeeld worden door menselijke vooroordelen.

Bijvoorbeeld in de Verenigde Staten bevelen artsen minder vaak borstreconstructie aan voor zwarte patiënten dan voor blanke patiënten na een borstamputatie, volgens een studie van de American Society of Plastic Surgeons. Wanneer makers van AI-tools deze gegevens in hun applicaties invoeren, nemen de algoritmen aan dat zwarte patiënten minder vaak borstreconstructie nodig hebben, minder pijnmedicatie nodig hebben en minder testen vereisen dan blanke individuen. Deze veronderstelling is gebaseerd op de invoerdata.

ChatGPT Doctor-Nurse Gender Bias.png

Gendervooroordelen in ChatGPT. Source

Privacy

ChatGPT kan nuttig zijn, maar het heeft ook potentiële risico's. Dit geldt vooral als het gaat om gegevensbeveiliging en het beschermen van de privacy van patiëntinformatie.

Wanneer u informatie invoert in de chatbot, wordt deze opgeslagen in de gegevensopslag. Dit betekent dat als u gegevens invoert over een patiënt, zoals hun naam, verjaardag, adres of werkplaats, de chatbot die informatie zal "onthouden". Hoewel het onwaarschijnlijk is dat de exacte informatie die u hebt ingevoerd door iemand anders die ChatGPT gebruikt zal worden gezien, blijft het feit bestaan dat de informatie van de patiënt nu is opgeslagen binnen ChatGPT en mogelijk toegankelijk is voor miljoenen mensen.

Anonimiseer dus altijd een case wanneer je hierover een casus in een Chabot input en laat persoonlijke data weg.