Archives

Categories

O que é ‘alucinação’ de inteligência artificial

Dias antes da coroação do rei Charles 3º, que ocorreu em 6 de maio, uma pergunta feita ao ChatGPT gerou um resultado surpreendente.

O chatbot de inteligência artificial (IA) da empresa OpenAI afirmou: “A cerimônia de coroação ocorreu na Abadia de Westminster, em Londres, em 19 de maio de 2023. A abadia é local de coroações de monarcas britânicos desde o século 11, e é considerada um dos lugares mais sagrados e emblemáticos do país”.

Este parágrafo é o que especialistas chamam de “alucinação”, nome dado às informações fornecidas pelo sistema que, embora escritas de forma coerente, apresentam dados incorretos, tendenciosos ou completamente errôneos.

A coroação de Charles aconteceria no dia 6 de maio, mas por algum motivo o ChatGPT chegou à conclusão de que o evento seria no dia 19 de maio.

O sistema alerta que só consegue gerar respostas com base em informações disponíveis na internet até setembro de 2021. Por isso, ele ainda fornece dados errados em consultas sobre dados mais recentes.

“O GPT-4 ainda tem muitas limitações conhecidas que estamos trabalhando para resolver, como preconceitos sociais, alucinações e informações conflitantes”, explicou a OpenAI no lançamento da versão GPT-4 do chatbot em março.

Esse não é um problema exclusivo do OpenAI. Também acontece com o chatbot do Google, o Bard, e outros sistemas de IA semelhantes.

Recentemente, jornalistas do The New York Times testaram o ChatGPT em um artigo sobre IA. O chatbot ofereceu várias respostas, algumas delas com dados errados, ou “alucinações”.

“Os chatbots são movidos por uma tecnologia chamada modelo de linguagem grande, ou LLM (sigla em inglês para large language model), que adquire suas habilidades analisando grandes quantidades de texto digital extraído da Internet”, explicam os autores do texto.

“Ao identificar padrões nesses dados, um LLM aprende a fazer uma coisa em particular: adivinhar a próxima palavra em uma sequência de palavras. Ele age como uma versão poderosa de uma ferramenta de preenchimento automático.”

Mas como a internet está “cheia de informações falsas, a tecnologia aprende a repetir as mesmas falsidades”, alertaram. “E às vezes os chatbots inventam

A OpenAI diz que trabalha em ‘uma variedade de métodos’ para evitar ‘alucinações’ em respostas aos usuários

Cautela

Os algoritmos de IA são capazes de processar uma quantidade enorme de informações da internet em segundos e gerar um novo texto, quase sempre muito coerente, com escrita impecável, mas que precisa ser tomado com cautela, alertam os especialistas.

Tanto o Google quanto a OpenAI pedem aos usuários que mantenham isso em mente.

No caso da OpenAI, que trabalha em parceria com a Microsoft e seu buscador Bing, eles apontam que “o GPT-4 tem tendência a ‘alucinar’, ou seja, ‘produzir conteúdo sem sentido ou falso em relação a certas fontes'” .

“Essa tendência pode ser particularmente prejudicial à medida que os modelos se tornam cada vez mais convincentes e confiáveis, levando os usuários a confiar demais neles”, esclareceu a empresa em um documento anexado ao lançamento de sua nova versão do chatbot.

Os usuários não devem confiar cegamente nas suas respostas, especialmente em áreas que envolvem aspectos importantes de suas vidas, como aconselhamento médico ou jurídico.

A OpenAI observa que trabalhou em “uma variedade de métodos” para evitar que “alucinações” sejam dadas em respostas aos usuários, incluindo avaliações de pessoas reais para evitar dados incorretos, preconceito racial ou de gênero, ou disseminação de informações falsas.

Fonte: BBC NEWS

Recentes:

Total
0
Shares
Share 0
Tweet 0
Pin it 0
Related Topics

You May Also Like
317 comments

  1. Bist du bereit, dein künftiges Online Casino mit Echtgeld-Bonus ohne Einzahlung
    für 2026 kennenzulernen? Unsere Experten testen knallhart, aber worauf achten sie bei einem Online Casino mit
    Echtgeld Bonus eigentlich ganz genau? Da sich die Anzahl
    der lizenzierten Casinos auf dem deutschen Markt stetig erhöht, gibt es
    für dich mehr Chancen auf einen ansprechendenOnline
    Casinos EchtgeldBonus.
    Wie bereits erwähnt gelten Online Casino Freispiele ohne Einzahlung
    meistens für einen ausgewählten Spielautomat. Das Erste, worauf
    man bei einem Freispiele ohne Einzahlung Casino
    Bonus achten muss, ist natürlich die Anzahl der gutgeschriebenen kostenlosen Bonusrunden. Hierbei werden Bestandskunden für jeden Einsatz mit einer gewissen Anzahl von Truepunkten belohnt, die Sie dann später in Online Casino Freispiele
    oder in andere exklusive Preise umwandeln können. Die meisten Online Casino Freispiele ohne Einzahlung sind in erster Linie als Werbemittel für Neukunden gedacht.

    • Genießen – üblicherweise werden Ihnen die Freispiele sofort nach der Aktivierung gutgeschrieben,
    aber bei einigen Anbieter werden Sie darauf
    bis zu 24 Stunden warten müssen. Bei einigen Anbietern werden die Freispiele automatisch gutgeschrieben, während Sie bei anderen Anbietern diesen Bonus im Spielkonto unter „Meine Boni“ aktivieren müssen.

  2. Es bestehen zahlreiche Auswahl- und Variationsmöglichkeiten für Ihren Bankettsaal, aber
    Sie können sich sicher sein, dass niemand Ihre Veranstaltung je vergessen wird, wenn sie hier stattfindet.

    Hochzeiten, Taufen, Feste und Einweihungen sind ein weiterer besonderer Aspekt des Pestana
    Casino Park. Für diejenigen, die sich sportlich betätigen möchten, steht ein mit modernen Geräten ausgestatteter Fitnessraum zur Verfügung.
    Der Entspannungsbereich umfasst einen Jacuzzi,
    ein türkisches Bad und eine Sauna, die einen kompletten Raum zur Erneuerung von Körper
    und Geist bieten.
    Câmara de Lobos feiert das Ende der Weinlese mit vielen kulturellen, gastronomischen und ethnografischen Aktivitäten. Von der ersten Trophäe,
    die er im Alter von 8 Jahren gewann, bis zum
    Europameisterschaftspokal 2016, einschließlich des Goldenen Stiefels und des Goldenen Balls.
    Madeira Atlantic Festival, eine Veranstaltung, die den Beginn der Sommersaison auf Madeira markiert.
    Entdecken Sie Wanderrouten offiziell von der Regionalregierung von Madeira empfohlen, da kleine Strecken (PR) und individualisiert durch eine laufende Nummer
    zugewiesen wird. Zu diesem Anlass, der die Insel weit über ihre Grenzen hinaus bekannt gemacht hat,
    sind die Straßen in ein buntes, duftendes Blumenmeer gehüllt.
    Mit dem Blumenfest „Festa da Flor“ wird die Ankunft des Frühlings verkündet.

    Finden Sie Ihren perfekten Aufenthaltsort! Sie benötigen ein Konto, um
    diesen Artikel zu Ihrem Wunschzettel hinzuzufügen, bitte melden Sie sich an oder registrieren Sie sich Wenn Sie sich
    noch nicht registriert haben, nutzen Sie die Gelegenheit und
    melden Sie sich an. Denn bei dem wahren Geist der Weihnacht geht es darum,
    Erinnerungen zu schaffen, die über die Jahre anhalten. Die
    besten Geschenke werden nicht in Papier eingewickelt,
    sondern bestehen aus neuen Erlebnissen.Schenken Sie Ihren Liebsten Zeit in einer Atmosphäre voller Magie
    und Komfort. Dieses Jahr überraschen Sie mit einer besonderen Weihnachtskarte

    References:
    https://online-spielhallen.de/1red-casino-deutschland-eine-tiefenanalyse-fur-spieler/

  3. Socially speaking, live dealer casinos are a great way to take your casino
    adventure to an even higher level. If you have an eye for new and shiny things—and the
    most current AU online casino features such as
    AR and VR—you have come to the right place!
    Nowadays, it is not enough to just simply launch your brand new online casino AU—it has to be great
    from the get-go! The online casino industry is getting more
    and more competitive each year. We look at terms, max bonus, wagering,
    no deposit bonuses and many more factors. In this list we have filtered out the absolute best Australian casino bonuses
    based on our algorithm.
    Some sites take a bit longer to process things on their
    end, but most payouts complete same-day. Keno is especially popular thanks to its lottery-style draws,
    while bingo adds a more social twist with chat features at some sites.
    Some games even add jackpots or a small cashback if you don’t get lucky.
    Also known locally as instant-win cards, online scratchies let you reveal symbols for instant prizes, just like the paper tickets at newsagents.
    Australians have loved scratch cards for decades, and the online versions feel almost the same, just faster.

    References:
    https://blackcoin.co/spanish-21-rules/

  4. The creation of Idols has brought Dominic back
    in touch with his early days as a musician,
    when he particularly prioritised and protected his creative spark.
    Idols feels like an album unashamedly gunning to be considered a 21st century rock classic.
    Idols’ songs came to life on the guitar,
    piano or drums, with Dominic and the team searching for a timeless feel.

    Hello Heaven, Hello, the record’s opening track, is a rock epic featuring key changes and time signature shifts, flying past the nine-minute mark.
    Just a year later, the now 28 year old released his second EP,
    The Underrated Youth, and his second studio album, Weird!

    Most laptops have shortcut keys for brightness. Move the slider left or right to
    decrease or increase brightness. Here, you’ll find the brightness slider.

    Born on August 5, 1997, in Doncaster, Dom didn’t exactly have a traditional path to rock stardom.
    That’s Yungblud for you–the 27-year-old sensation who’s
    been flipping the script on what it means to be a rock star in the 21st century.

    Northern England Artist YUNGBLUD continues to build a huge reputation in the rock scene.
    Please logout and then login again, you will then be prompted
    to enter your display name. Having previously
    written books on Lemmy, Dave Grohl (the Sunday Times best-seller This Is A Call) and Metallica (Birth School
    Metallica Death, co-authored with Ian Winwood), his Eddie Van Halen biography (Eruption in the UK, Unchained in the US) emerged
    in 2021.

    References:
    https://blackcoin.co/47_high-roller-bonus-uk-2022_rewrite_1/

  5. Creating an account at SkyCrown Casino is quick and straightforward.
    For iOS users in Australia, the SkyCrown App is easily accessible.

    Open your mobile browser and visit the SkyCrown Casino website.

    In the security section, allow installation of apps from unknown sources to enable downloading from our official website.

    Moreover, maximum win and cashout is FS wins cap A$300; bonus
    cashout cap A$5,000. First of all, wagering is 40× (bonus + FS wins).
    There are some additional conditions for all four welcome deposits.

    For instance, we’d like to see live chat made available to unregistered users and a broader selection of live dealer games added to the library.
    These include cashback offers, free spins for wagering, and reload bonuses.
    This exclusive bonus is available once per month for registered players.
    SkyCrown makes it easy for players to deposit funds using various cryptocurrencies.

    Keep in mind that tables with live dealers are only accessible when playing for real money.

    References:
    https://blackcoin.co/we-tested-50-aussie-online-casinos-these-paid-real-money/

  6. The best online casino in Australia earns its title by accepting local currency (Australian dollars) and offering local payment methods.
    Dive into the excitement of the best online gambling with a
    wide array of games and lucrative rewards. The Australian iGaming
    industry provides players with genuine and secure gaming experiences.

    If you play online games in Australia, you can find great bonus codes for casinos
    at Casino Buddies. By following this guide and always focusing
    on responsible gaming, you’ll be ready for an enjoyable experience in the
    busy world of Australian online casinos. These bonuses typically
    include bonus money upon your first deposit, free spins for slot games, and opportunities to play without any
    initial deposit. Yes, you can withdraw money from online casinos in Australia, particularly from those that offer secure methods like
    PayID, which enables fast payouts. These games offer an immersive experience
    with real-time play and an authentic casino feel. You can make deposits
    and withdrawals using PayPal because it’s accepted at many premier online casinos in Australia.

    References:
    https://blackcoin.co/house-of-jack-casino-review/

  55. **mitolyn**

    Mitolyn is a carefully developed, plant-based formula created to help support metabolic efficiency and encourage healthy, lasting weight management.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

VENONE | agencia de design