Archives

Categories

O que é a misteriosa ‘caixa preta’ da inteligência artifical que preocupa os especialistas

Desenvolvedores de inteligência artificial (IA) do Google encontraram recentemente uma misteriosa “caixa preta”.

Os engenheiros estavam trabalhando em um software de IA que inesperadamente ganhou a capacidade de entender um novo idioma.

“Descobrimos que, com muito pouca informação sobre o bengali [a língua oficial de Bangladesh], agora você pode traduzir tudo para esse idioma”, afirmou James Maneka, chefe da divisão de IA do Google, ao programa 60 Minutes da rede de televisão americana CBS.

Ao comentar sobre o assunto, o CEO do Google, Sundar Pichai, disse que essa capacidade dos programas de IA de gerar habilidades ou fornecer respostas de maneiras inesperadas é o que os especialistas chamam de “caixa preta”.

“Você não entende muito bem. Você não pode realmente dizer por que [o robô] disse isso ou por que errou. Temos algumas ideias e nossa capacidade de entender o assunto melhora com o tempo”, apontou.

O desenvolvimento da inteligência artificial acelerou bastante nos últimos anos. Grandes empresas de tecnologia estão investindo somas significativas para criar chatbots — como o Bard, do Google, ou o ChatGPT, da OpenAi e da Microsoft.

Mais recentemente, o bilionário Elon Musk anunciou que também entraria nesse ramo.

Ao mesmo tempo, especialistas em IA apontam que essa corrida pode causar riscos se a tecnologia não for controlada pelos desenvolvedores.

Um desses controles é justamente entender como elas aprendem habilidades para as quais não foram treinadas.

E essa é a grande caixa preta desse ramo da tecnologia.

O Bard oferece respostas a perguntas ou instruções dadas pelo usuário

A caixa branca

A ideia da caixa preta serve de oposição ao que os especialistas em IA chamam de caixa branca.

Ian Hogarth, cofundador da empresa de tecnologia Plural e autor do livro The Status of AI Reports (“Os Status de Relatórios de IA”, em tradução livre), explica à BBC que, quando os desenvolvedores criam um programa de maneira “tradicional”, as linhas de código inseridas são claramente refletidas no o resultado que o software obtém.

“Às vezes as pessoas descrevem isso como uma caixa branca”, diz ele.

“Porém, na IA, os sistemas são realmente muito diferentes. Eles estão mais próximos de uma caixa preta de várias maneiras, porque você realmente não entende o que está acontecendo lá dentro”, acrescenta.

E geralmente os programadores não esperam resultados tão criativos de suas criações.

“Gosto de pensar que nós fazemos o desenvolvimento da IA. Essa é a melhor ideia que ouvi sobre como construímos os sistemas usados hoje. E a parte difícil é que, agora, há grandes saltos nas capacidades deles”, explica ele.

Ao contrário da programação de software mais tradicional — que é baseada na implementação de instruções para obter um resultado — no desenvolvimento de IA os engenheiros trabalham para chegar a um sistema que imite as “redes neurais” da inteligência humana.

Isso envolve um grande número de processadores interconectados que podem lidar com grandes quantidades de dados, detectar padrões entre milhões de variáveis ​​usando aprendizado de máquina e, o mais importante, adaptar-se em resposta ao que estão fazendo.

David Stern, gerente de pesquisa quantitativa da G-Research, uma empresa de tecnologia que usa aprendizado de máquina para prever preços nos mercados financeiros, adverte que “o progresso mais rápido na pesquisa de IA nos últimos anos envolveu um foco em caixas-pretas cada vez mais orientadas por dados”.

“Na abordagem de rede neural atualmente em alta, esse procedimento de treinamento determina a configuração de milhões de parâmetros internos que interagem de maneiras complexas e são muito difíceis de explicar ou de fazer a engenharia reversa”, diz o especialista.

Outra tendência é o “aprendizado por reforço profundo”, no qual um “designer simplesmente especifica os objetivos de comportamento e o próprio sistema aprende automaticamente ao interagir diretamente com o ambiente”, acrescenta.

“Isso resulta em um sistema que é ainda mais difícil de compreender.”

Devemos nos preocupar?

Ian Hogarth observa que, embora novos chatbots como o Bard e o ChatGPT pareçam uma tecnologia muito recente, eles são na verdade o produto de uma década de pesquisa e desenvolvimento.

“Se voltarmos a 2012 e compararmos os sistemas que estávamos construindo na época e os sistemas em desenvolvimento agora, aumentamos consistentemente a quantidade de dados e o poder de computação de modelos de IA”, contextualiza.

“Aumentamos a quantidade de poder computacional consumido por esses modelos em cerca de 100 milhões na última década. Portanto, embora na prática o ChatGPT pareça ter surgido do nada para a maioria das pessoas, essa é uma tendência de longa data.”

“E isso vai seguir em frente”, antevê.

As novas capacidades dos robôs que foram lançadas recentemente têm levantado questões sobre as diversas formas pelas quais eles influenciarão a sociedade, desde impactos no mercado de trabalho até o controle de processos de segurança pública ou no campo militar.

No programa 60 Minutes, o CEO do Google foi questionado sobre o fato de os engenheiros não entenderem completamente como as coisas acontecem na caixa preta, mesmo com chatbots como o Bard em pleno funcionamento.

“Acho que também não entendemos completamente como a mente humana funciona”, respondeu Sundar Pichai, que vê a chegada gradual da IA ​​à sociedade como uma forma de se acostumar com ela.

“Acho que desenvolver isso precisa incluir não apenas engenheiros, mas também cientistas sociais, especialistas em ética, filósofos e assim por diante”, sugeriu Pichai.

“E temos que ser muito atenciosos. Essas são as coisas que a sociedade precisa descobrir à medida que avançamos. Não cabe a nós como empresa decidir”, disse ele.

Ian Hogarth também acredita que a IA acabará afetando a vida das pessoas — e um diálogo aberto sobre os impactos dessas tecnologias é necessário.

“Acho que elas têm um potencial notável para transformar todos os aspectos de nossas vidas. De certa forma, talvez elas sejam as tecnologias mais poderosas hoje”, avalia o especialista.

“O ponto principal é que deveríamos ter uma discussão pública sobre a rapidez com que esses sistemas estão progredindo e quais são as diferenças em relação às gerações anteriores desses softwares”, conclui Hogarth.

Fonte: BBC NEWS

Recentes:

Total
0
Shares
Share 0
Tweet 0
Pin it 0
Related Topics

You May Also Like
210 comments

  1. National Casino bietet unter anderem Software von NetEnt, Pragmatic Play, Evolution, Microgaming und Playtech an, sodass viel
    Austausch herrscht. Darüber hinaus gibt es wöchentliche Reload-Boni, Freispiele und ein Cashback-Programm für Live-Casino-Spieler.
    Direkt auf der Startseite wird ein Willkommensbonuspaket im Wert von bis zu 3.000 Euro und 150 Freebies angeboten. CrownPlay überzeugt mit großem Bonuspaket,
    abwechslungsreicher Spielauswahl und modernen Features wie
    Bonus Crab. Mit über 3.000 Slots, beliebten Megaways-Titeln und
    einer starken Live-Sektion bietet CrownPlay alles, was moderne Spieler suchen. Betamo betreibt sein Geschäft mit einer
    Glücksspiellizenz von Curacao und hat sich als seriöser Anbieter.

    Dank innovativer Avalanche-Mechaniken und Multiplikatoren bietet der Slot eine Auszahlungsquote von 95,77
    %. Spieler können hier spannende Freispiele und hohe Multiplikatoren mit einem RTP-Wert von 96,71 % erwarten. Zusätzlich unterlagen die
    Online-Glücksspiele in Deutschland keiner Regulierung und wurden daher auch nicht besteuert.
    Bedenken Sie bitte, dass Glücksspiele wie Casino-Spiele oder Sportwetten süchtig machen können.
    Um die Webseite und die Dienstleistungen der Online-Casinos und Wettanbieter nutzen zu können, müssen Sie
    mindestens 18 Jahre alt sein. Zu diesen gehören in erster Linie Spielautomaten, aber auch
    progressive Jackpots, Tischspiele und Live-Casinospiele.
    In einem Online Casino könnt ihr verschiedene Casinospiele mit echtem Geld und um echte
    Geldgewinne spielen. Die Online Casinos in Deutschland bieten euch rund um die Uhr tausende Casinospiele mit Echtgeld.
    Casino.guru sieht sich als eine unabhängige Informationsplattform über Online Casinos
    und Online Casinospiele, die von keinem Glücksspielanbieter oder irgendeiner anderen Instanz kontrolliert wird.
    Die lange erwarteten Regulierungen des neuen deutschen Glücksspielstaatsvertrages für
    deutsche Online-Casinos und deutsche Spieler traten am 1.
    Wenn Sie dasselbe Spiel in zwei verschiedenen Casinos spielen, so sind Ihre Gewinnchancen im Allgemeinen immer gleich hoch, zumindest wenn
    wir Faktoren wie Boni, Sonderangebote usw.

    References:
    https://online-spielhallen.de/alles-uber-vegaz-casino-freispiele-ihr-umfassender-leitfaden/

  2. Our experienced customer support agents are ready
    to assist you 24 hours a day, 7 days a week.

    Contact our support team directly from the app via
    live chat or email. Track your rewards, tier progress, and personalized offers wherever you are.

    Here, you’ll enjoy not only magnificent French-inspired cuisine, but also unforgettable 360-degree views of Hobart.

    Its unique position as a pioneering establishment in the Australian casino industry has
    allowed it to refine its offerings to provide an exceptional experience for all its visitors.

    These specials can include discounts, promotions, and unique opportunities that enhance the gaming and Wrest Point
    Casino entertainment experience. When guests book a stay for two nights at the casino’s hotel, they are eligible to receive
    a 20% Wrest Point Casino prices discount on their accommodation. Wrest Point
    Casino, a premier entertainment destination in Hobart,
    Tasmania, enhances the gaming experience for its patrons through an array of bonuses
    and promotions. These enhancements fortify Wrest Point Casino’s
    commitment to delivering a well-rounded gambling
    experience, accommodating diverse player preferences.

  13. Mobile casinos offer the convenience and flexibility to enjoy your favourite games on smartphones and tablets without compromising quality.
    In addition to the welcome bonus, we also offer a matched deposit bonus,
    providing new customers with attractive offers such as bonuses of
    up to $10,000 along with free spins. Rocketplay stands out among other crypto casinos for the multiple
    selection of popular cryptocurrencies for swift transactions without any fees and charges for deposits or withdrawals.

    With options ranging from low to high volatility, players can choose between steady small wins or high-risk
    titles with the chance for massive payouts. These games stand out for their high-quality graphics, immersive sound, and engaging storylines.
    Hundreds of five-reel and multi-payline games cover themes from ancient history to futuristic adventures.
    They’re ideal for beginners or nostalgic players who enjoy
    the elegance of old-school slot design.
    Most methods have a $6,000 AUD limit per transaction, while crypto options allow even higher withdrawals for
    bigger players. This gives players extra insurance for longer, more enjoyable sessions.

    It’s a strong start for exploring the casino’s huge game collection. The
    offer includes up to AU$2,000 in bonuses plus 100 free spins when using the code VIPGRINDERS.
    Casino Guru rated Rocketplay with an impressive Safety Index of 9.8 out of
    10, proving its reliability and commitment to safe
    gaming. Rocketplay Casino operates under the Curacao
    gaming license 8048/JAZ, issued by Antillephone N.V.

    References:
    ufo9

  74. Aber insgesamt bietet das Casino sowohl für neue als auch für regelmäßige Spieler einen großen Wert. Hit’n’Spin Casino bietet den Spielern ein unterhaltsames und umfassendes Spielerlebnis. Es bietet Spielern ein unterhaltsames Spielerlebnis mit vielen Spielen, schnellen Zahlungen und großen Boni. Ich wünschte nur, der Einsatz für den Willkommensbonus wäre etwas niedriger, aber insgesamt lohnt es sich trotzdem.“
    Ein dreifacher Willkommensbonus erwartet neue Spieler im Hit N Spin Casino. Ich habe während der Oktoberfest-Promo gespielt und Freispiele gewonnen. Mit reibungslosem Spielablauf und vollem Zugriff auf die Funktionen bietet Hit n Spin Ihnen echten Casinospaß für die Hosentasche.

    References:
    https://s3.amazonaws.com/new-casino/verde%20casino%20bonus%20code.html

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

VENONE | agencia de design