Chatbot Bard dělá v odpovědích chyby, hrozí šíření dezinformací

Před dvěma dny jsme vás informovali o představení chatbota Bard společnosti Google. Tento chatbot, konkurent ChatGPT, by měl být kromě chatování s uživateli postupně integrován také do vyhledávače Google. Společnost ale uvedla, že alespoň zpočátku nebude chatbot dostupný pro širokou veřejnost, což je dobře. Ukazuje se totiž, že by mohlo jít o neplánovaný generátor dezinformací.

Google zveřejnil na Twitteru reklamu, která ukazuje chatbota Bard v akci. Nepříjemné je, že informace, které reprodukuje, ale nejsou pravdivé. V krátkém GIFu můžeme vidět, jak je chatbotovi položen dotaz: „O jakých nových objevech vesmírného teleskopu Jamese Webba mohu říci svému devítiletému dítěti?“ Bard rychle zareaguje a předloží tři odpovědi včetně poslední z nich, která zní: „JWST pořídil vůbec první snímky planety mimo naši Sluneční soustavu. Těmto vzdáleným světům se říká ‚exoplanety‘. Exo znamená ‚zvenčí‘.“ Ačkoli část o exoplanetách je v pořádku, první část, která tvrdí, že JWST pořídil jejich první snímky, je nepravdivá. To se totiž podařilo dalekohledu VLT (Very Large Telescope) v roce 2004, jak potvrdila NASA.

Přestože zrovna tento příklad nemusí být nijak nebezpečný, lze jej vnímat jako nepříjemnou předzvěst řady dalších (a mnohem nebezpečnějších) chybných informací. Mohlo by jít o jakousi obdobu chatbota, kterého chtěla společnost CNET použít při psaní článků s radami ohledně financí. Nakonec však musela celý projekt zrušit, jelikož články byly plné chyb.

Rychlost a „jistota“, s jakou chatbot odpovídá, přitom může mást a vytvářet mylný dojem, že si odpovědi není potřeba ověřit. Rozhodně je proto namístě přistupovat k této a podobným AI technologiím s velkou obezřetností.

Zdroj: engadget.com