Eén op de vijf medische adviezen van ChatGPT is risicovol: hoe kan dat?
Eén op de vijf medische adviezen van ChatGPT blijkt risicovol. Want een ontbrekende context heeft grote gevolgen voor wie op het antwoord vertrouwt. In deze AI at Work Live bespreken Job van den Berg, Remy Gieling en Tom Jesse deze onderzoeksuitkomst en vele andere AI-zaken.
Daarnaast delen zij in deze uitzending opmerkelijke praktijkvoorbeelden van autonome agents, het hacken en klonen van Adobe-software en de risico’s van AI-modellen zonder menselijke context.
ChatGPT voor medisch advies?
Het Onderzoek van de Week dat besproken wordt, is How safe is ChatGPT for health advice. Wat blijkt: één op de vijf gezondheidsgesprekken die werden gevoerd met Chat-GPT, die werden op basis van die data beoordeeld ‘als mogelijk risicovol’. Vrij vertaald: verkeerde adviezen ontstaan door gebrek aan context. „De hallucinaties zijn geen modelprobleem, het is een contextprobleem”, zegt Job van den Berg. In de uitzending maakt hij daarbij een vergelijking met het bedrijfsleven.
En natuurlijk ook in deze AI at Work Live: wat heeft Leopold (6) ditmaal gebouwd?
AI at Work Live is elke vrijdag van 17.00 tot 18.00 uur live te beluisteren op New Business Radio.nl en de app van de radiozender. Op maandag wordt de uitzending tussen 12.00 en 13.00 uur herhaald.
De presentatie van AI at Work Live is in handen van Tom Jessen. Hij wordt geflankeerd door Job van den Berg en Remy Gieling. Als bestsellerauteurs van ‘Handboek AI Strategie’ en oprichters van The AI Group adviseren zij jaarlijks ruim 300 topbedrijven, waaronder ASML, KLM en Wolters Kluwer.
Ontvang elke week het beste van BusinessWise in je mailbox. Schrijf je hier nu gratis in en win je eigen robot!
