Het trainen van een model als GPT-4 duurt alleen al zo'n 6 maanden, en dan hebben we het nog niet eens over het stroomverbruik en bijbehorende vervuiling die het creeert. Nee, dat gaan ze zéker niet doen
Ja dat is hetzelfde als je ChatGPT vraagt om een grap te maken over mannen (toegestaan) of vrouwen (niet toegestaan). Kan je het ooit goed doen zonder alles dicht te zetten? Er is altijd wel iemand beledigd. Is het überhaupt mogelijk om een echt onafhankelijke chatbot te maken? Ik geloof het niet.Bijzonder hoe ChatGPT omgaat met Jezus versus Mohammed, en hoe het antwoord als het daarop bevraagd wordt.
Oh, ongetwijfeld, geloof niet dat religie het enige onderwerp is waar dit bij speelt. Maar ben ergens wel benieuwd in hoeverre zaken gecensureerd gaan worden en je bv als je vraagt naar het verhaal achter bv slavernij nog wel het hele verhaal krijgt of dat er zaken verzwegen worden, want het is gevoelig.
ChatGPT ook bang voor aanslagenBijzonder hoe ChatGPT omgaat met Jezus versus Mohammed, en hoe het antwoord als het daarop bevraagd wordt.
Sowieso hele matige grappen, ken ze wel beter.
En bijzonder om te zien hoe ChatGPT in de verdediging schiet qua gevoeligheden, terwijl t antwoord ook kan zijn, je hebt gelijk, hier is een grap over Mohammed.
De robot doet slechts wat hem is aangeleerd en wat hij zichzelf aanleert. Vermoed dat als je gaat zoeken op ´grappen over´ dat je ook daar in de hits gaat vinden dat het ene gevoeliger ligt / zou liggen dan het andere.ChatGPT ook bang voor aanslagen
Vreemd gang van zaken dit. Je zou verwachten dat deze robot volledig ongevoelig is.
Officieel is dit geen censuur natuurlijk, want het dit wordt voorgeschreven door een bedrijf en niet door een overheid, maar ik snap waar je heen wilt. Waar je ook voor kiest, kan je het ooit goed doen?
ChatGPT censureert zichzelf toch door geen grap over Mohammed te maken?
Ik ga er vanuit dat de engine zelf een volledige afspiegeling is van de maatschappij inclusief alle vooroordelen (als bv facebook/twitter in de trainingsdata zit). De AI bedrijven wilden er voor waken dat die onderbuikgevoelens niet door zouden druppelen in de antwoorden en bouwden dus een soort veiligheidscontrole in. Dat ging soms te ver zoals deze voorbeelden.ChatGPT ook bang voor aanslagen
Vreemd gang van zaken dit. Je zou verwachten dat deze robot volledig ongevoelig is.
Ik speel nu even de advocaat van de duivel, maar ‘het goed doen’ is ook gekleurd. Ik wil alleen aangeven dat echte onafhankelijkheid nagenoeg onmogelijk is in alle omstandigheden. Zie mijn post over de vikings ed.
'het goed doen' met betrekking tot zaken die gewoon vast te stellen zijn lijkt mij toch niet gekleurd. Vragen naar de uitslag van Ajax-PSV zou twee antwoorden kunnen opleveren. 1 waarin de score evt. aangevuld met stats (niet dat die alles zeggen, maar zijn wel objectief vast te stellen) en een met een 'PSV had het beste van het spel, en allerlei andere invulling' dat valt bij mij buiten 'het goed doen'.
Een bedrijf kan zichzelf ook censureren, heb je de overheid niet voor nodig. Gebruik voor de gein eens de term cis-gender op X, krijg je meteen een waarschuwing voor hate-speech.
Ik denk dat je nu op het punt aankomt dat het over vrijheid van meningsuiting gaat en of beledigen daarin strafbaar zou moeten zijn. Dit is in mijn optiek een hellend vlak, zoals je zelf ook al aangeeft. Beledigingen kun je nooit definiëren omdat het subjectief is, dus snap ik ook niet goed waarom we dat toch proberen. Zelfs AI krijgt daardoor scheve moralen.
Ik heb met dit soort nieuwe technologie vaak een 'oude wijn in nieuwe zakken' gevoel. Je had vroeger cassettes met colleges, lesmateriaal allerlei gewoon op bandje en later op cd die je kon kopen of bij de bibliotheek kon lenen met stof.
Bizar!
Dat is het dus juist niet. Waar eerder de computer programmeur het onderdeel moest snappen en dat moest omzetten naar code, hoeft dat dus allemaal niet meer. Je leert de computer bepaalde patronen (bv dit is een plaatje van een kat) en kan daarmee een oneindig aantal plaatjes genereren. Hetzelfde geldt voor bepaalde lesstof. Als de computer de patronen leert, kunnen er een oneindig aantal methodes toegepast worden, wat helemaal op de scholier is afgestemd. Helemaal als je kan meten wat er werkt voor welke student.
Plaatjes? Ik dacht dat je het had over een A.I. podcast die gegenereerd wordt aan de hand van een tekst? Vandaar m'n vergelijking met de oudere audio producten die er toen op de markt waren mbt educatie etc.