ChatGPT op de korrel genomen

Bijdragen

Deze blog komt tot stand dankzij bijdragen van de analisten van KBC Asset Management, KBC Securities, KBC Market Research en de economen, contentmanagers van Bolero en aandelenstrategen van KBC Groep:

Allison Mandra, Andrea Gabellone, Benjamin Wolff, Bérangère Bivort, Bernard Keppenne, Cora Vandamme, Dieter Guffens, Dirk Thiels, Ellen Van Tongelen, Guy Sips, Hans Dewachter, Jacob Mekhael, Jo Elsocht, Johan Van Gompel, Joren De Mesmaeker, Joris Franck, Kurt Ruts, Kristof Samoy, Laurent Convent, Lieven Noppe,
Livio Luyten, Lynn Hautekeete, Mathias Janssens, Mathias Van der Jeugt, Marion Geubel, Michiel Declercq, Peter Wuyts, Philippe Delfosse, Siegfried Top, Thibault Leneeuw, Thomas Couvreur, Thomas Vranken, Tom Noyens, Tom Simonts, Wim Hoste en Wim Lewi.

Disclaimer

Deze publicatie van KBC Bank N.V. (Bolero) wordt uitsluitend ter informatie verstrekt en is niet bedoeld als een specifiek en persoonlijk beleggingsadvies, een aanbieding of een uitnodiging tot een aanbieding, om de hierin vermelde financiële producten te kopen of te verkopen, noch onafhankelijk onderzoek op beleggingsgebied.

De dienstverlening die Bolero verschaft, is niet op beleggingsadvies gebaseerd. Bolero is het orderuitvoeringsplatform van KBC Bank N.V. waarmee transacties in ‘niet-complexe’ financiële producten (in de zin van MiFID II) doorgaan op basis van ‘loutere uitvoering’ (“execution only”). Bolero voert geen ‘passendheidstoetsing’ uit bij transacties in niet-complexe financiële producten. De belegger die van deze dienstverlening gebruik maakt, beschikt dus niet over de bescherming van de toepasselijke gedragsregels. Transacties in ‘complexe’ financiële producten (in de zin van MiFID II) kunnen pas uitgevoerd worden na een succesvolle passendheidstoetsing. Transacties via Bolero gebeuren altijd op initiatief van de belegger.

Bij het uitvoeren en/of doorgeven van transacties van beleggers houdt Bolero geen rekening met de daarmee verband houdende fiscale, juridische of boekhoudkundige aspecten van deze transacties, verstrekt zij geen advies met betrekking tot dergelijke aspecten en kan zij daarvoor derhalve niet aansprakelijk worden gesteld.

Beleggen in financiële producten houdt risico’s in. Beleggers moeten in staat zijn om het economische risico van een belegging te dragen en het belegde kapitaal geheel of gedeeltelijk te verliezen.

Deze blog bevat publicaties van KBC Securities NV (https://research.kbcsecurities.com/portal/portal.html#!/disclosures), KBC Asset Management NV (https://www.kbc.be/particulieren/nl/juridische-info/documentatie-beleggen.html#aandelen) en KBC Economics (https://www.kbc.com/nl/economics.html). Voor de externe bronnen raadpleegt Bolero verschillende nieuwssites. De bijdragen worden geselecteerd op basis van recente, concrete gebeurtenissen en publicaties. De redactie wordt verzorgd door Tom Simonts (KBC Securities) en door Jo Elsocht, Joren De Mesmaeker, Jens Meersman, Ellen Van Tongelen en Philippe Delfosse (marketing team Bolero, KBC Bank NV). KBC Bank staat onder toezicht van de FSMA.

di. 22 aug 2023

10:57

De voorbije weken waren er talloze persartikelen die wezen op verschillende problemen rond OpenAI en zijn populaire AI-chatbot ChatGPT. De collega’s van KBC Asset Management zetten de issues op een rij en wat die betekenen voor het bedrijf en diens technologie.

Kwaliteitsproblemen

Hallucinaties

ChatGPT kan last hebben van "hallucinaties", wat betekent dat het zelfverzonnen of valse informatie kan geven. ChatGPT doet zelfs alsof zijn antwoord correct is terwijl dat niet zo is.

Onjuiste antwoorden

ChatGPT kan een uiterst nuttig hulpmiddel zijn, maar het kan ook totaal foute of onvolledige antwoorden geven. Dit kan te wijten zijn aan de logica of de formulering van de vraag van de eindgebruiker, maar meestal is het gewoon te wijten aan de complexiteit van de vraag van de eindgebruiker. Onderzoekers rapporteerden ook dat veel antwoorden op programmeer-gerelateerde vragen onnauwkeurig waren.

ChatGPT kan dommer worden

Onderzoekers van de Amerikaanse universiteiten Berkeley en Stanford hebben de evolutie van de kwaliteit van de antwoorden van ChatGPT bestudeerd voor de modellen GPT-3.5 en GPT-4. Ze gaven ChatGPT vier opgaven in maart en dezelfde vier opgaven later in juni en vergeleken vervolgens de resultaten. De taken bestonden uit wiskundeproblemen, gevoelige of "gevaarlijke" vragen, het genereren van softwarecode en visueel redeneren. De bevindingen waren dat het gedrag van ChatGPT sterk fluctueert. De prestaties van sommige taken verbeterden van maart tot juni, terwijl ze voor andere taken verslechterden. Met andere woorden, het is waarschijnlijk dat ChatGPT dommer wordt in de loop van de tijd.

Bezorgdheden

Privacy van gegevens

Over het algemeen maken organisaties zich zorgen over het lekken van bedrijfsgegevens in (1) AI-trainingssets en (2) inferenties. Dit laatste is een risico omdat ChatGPT gesprekken en logs opneemt op zijn servers en deze deelt met andere bedrijven en zijn AI-trainers. Het is dus niet veilig om vertrouwelijke informatie te delen met ChatGPT. OpenAI werkt aan ChatGPT Business en kan mogelijk enkele van de zorgen wegnemen.

ChatGPT heeft ook de mogelijkheid om gebruikt te worden als gezichtsherkenningsmachine. Tot nu toe is deze mogelijkheid uit voorzorg uitgeschakeld.

Auteursrechten

Voor het trainen van grote taalmodellen (LLM) zoals GPT-3.5 en GPT-4 gebruikt OpenAI gigantische trainingsdatasets. Om deze gigantische datasets op te bouwen, gebruikt OpenAI dataschraaptools. Het heeft zelfs een gloednieuwe GPTBot gebouwd, een nieuwe bot voor het crawlen van websites. Het grote probleem is dat informatie waarop auteursrecht rust onrechtmatig in deze gigantische datasets terechtkomt.

Cyberveiligheid

Of het nu in handen is van cybercriminelen of onwetende eindgebruikers, ChatGPT introduceert nieuwe risico's voor cyberbeveiliging. Onwetende eindgebruikers kunnen vertrouwelijke gegevens invoeren in ChatGPT. Ook softwarecode die wordt gegenereerd door ChatGPT valt niet op wat betreft cyberbeveiligingsoverwegingen.

Cybercriminelen kunnen ChatGPT op verschillende manieren misbruiken, bijvoorbeeld voor het maken van malware, voor social engineering-campagnes, om kwetsbaarheden te vinden in API's, enz.

Gevolgen

De meeste organisaties verbieden ChatGPT

Volgens Blackberry verbiedt 75% van de organisaties het gebruik van ChatGPT voor hun werknemers, voornamelijk op basis van de eerder genoemde zorgen over gegevensprivacy.

Veel rechtszaken op komst

OpenAI kan extra personeel gaan aannemen op de juridische afdeling om alle rechtszaken te behandelen die tegen hen worden aangespannen. Enkele voorbeelden van claims:

OpenAI heeft illegaal boekteksten gekopieerd door geen toestemming te krijgen van auteursrechthebbenden of hen krediet en compensatie aan te bieden.
ChatGPT en DALL-E verzamelen persoonlijke gegevens van mensen van over het hele internet in strijd met de privacywetgeving.
GitHub's Copilot (die OpenAI's Codex model gebruikt) is aangeklaagd in een massale rechtszaak voor grootschalige softwarepiraterij. De AI-tool zou de licentierechten schenden van softwareontwikkelaars die hun software onder open source licenties op GitHub plaatsen.
De New York Times wil haar auteursrecht verdedigen. OpenAI heeft artikelen uit de krant gebruikt om zijn GPT-modellen te trainen.

Strengere regelgeving op komst

Het gesprek in de VS over AI-beleid en -regulering richt zich op twee belangrijke sporen: 1) consumentenbescherming, gegevensprivacy en burgerrechten, en 2) nationale veiligheid. Aangezien de materie vrij complex is, kost het creëren van een nieuw wetgevend kader tijd en zal het naar verwachting op zijn vroegst in 2024 klaar zijn. De eerder genoemde problemen met hallucinaties, onjuiste informatie, gegevensprivacy, beveiliging, auteursrechtenkwesties en meer zullen allemaal worden aangepakt door dit nieuwe wetgevingskader.

In de EU richt de voorgestelde wetgeving - de Artificial Intelligence (AI) Act - zich vooral op het versterken van de regels rond gegevenskwaliteit, transparantie, menselijk toezicht en verantwoordingsplicht.

Populariteit neemt af

Het mobiele en desktopverkeer naar de website van ChatGPT daalde in juni 2023 wereldwijd met 9,7% ten opzichte van de maand ervoor, volgens internetdatabedrijf Similarweb. Het was de eerste keer sinds de lancering van ChatGPT in november 2022.

Microsoft flirt met het AI-platform van Databricks

Microsoft wil misschien het AI-platform van Databricks aanbieden via zijn Azure-cloud. Als dat echt gebeurt, zal OpenAI's ChatGPT veel momentum verliezen ten voordele van Databricks' AI-aanbod. Er gaan geruchten dat Microsoft niet blij was met de voortijdige lancering van ChatGPT in november 2022. Microsoft had in plaats daarvan de lancering van Bing Chat een paar maanden later gepland, wat de grote doorbraak van generatieve AI moest worden.

Een lange weg te gaan

OpenAI maakt verlies, wat natuurlijk niet ongewoon is voor een start-up. Tot nu toe heeft OpenAI al maar liefst 540 miljoen dollar aan verliezen geslikt sinds de introductie van ChatGPT in november 2022. Gelukkig kan OpenAI nog steeds rekenen op de steun van partner Microsoft. OpenAI moet ongeveer 700.000 dollar per dag betalen om de gratis versie van ChatGPT (gebaseerd op het GPT-3.5 model) draaiende te houden. Eén query kost ongeveer 0,36 dollar. Inferencing - d.w.z. het uitvoeren van die query's - is erg duur. Er zijn betere GPU-chips nodig om deze kosten te verlagen. De inkomsten die worden gegenereerd door de betaalde versie van ChatGPT (gebaseerd op het GPT-4-model) dekken de verliezen niet. Het is dus nog een lange weg voor OpenAI naar winstgevendheid. En de hype is al aan het vervagen.

Naar overzicht