O empresário Elon Musk, um dos homens mais ricos do mundo, participou de uma entrevista para o Wall Street Journal em que foi questionado sobre o futuro das Inteligências Artificiais. Ao tocar no assunto, ele defendeu que essa IA hipotética priorizaria a segurança humana, assumindo o controle de todos os sistemas de computação e armas da Terra.

Musk defendeu que, nos próximos dez anos, poderemos ver o desenvolvimento da Inteligência Geral Artificial (AGI) . A “AGI” seria como uma Inteligência artificial que pode aprender e executar tarefas ao mesmo nível de um ser humano. “Indiscutivelmente, estamos no horizonte de eventos do buraco negro que é a super inteligência social”, alertou.

“Uma maneira de alcançar a paz mundial é tirar todas as armas dos humanos para que eles não possam mais usá-las”, disse Musk durante a entrevista. Eu não acho que a IA vai tentar destruir toda a humanidade, mas pode nos colocar sob controles rígidos.”

O CEO do Twitter acredita que os primeiros usos irregulares da IA provavelmente serão na tecnologia de armas, alertando para o advento de “guerras de drones” entre nações avançadas com capacidades significativas de IA e drones.

Carta aberta

Em março, Musk assinou uma carta aberta pedindo para que empresas de tecnologia pausassem seus experimentos em inteligência artificial (IA) . Na carta, os assinantes pedem para que as empresas pausem os experimentos em inteligência artificial por seis meses para que protocolos de segurança sejam inseridos nos sistemas. O texto critica o modo de fazer de “publicar depois corrigir”, adotado, por exemplo, pela OpenAI ao permitir que o público usasse o ChatGPT sem que ele estivesse pronto, o que gerou problemas com desinformação e discurso de ódio.

“A caneta é mais poderosa do que a espada, então um dos primeiros lugares em que temos que ter cuidado com a IA sendo usada é nas redes sociais para manipular a opinião pública”, opinou o bilionário.

Fonte: Tecnologia

O post Musk defende que inteligência artificial vai trazer paz mundial apareceu primeiro em FATO MT.

A Meta, empresa dona do Facebook, Instagram e WhatsApp, apresentou nesta quinta-feira (11) uma série de novidades utilizando inteligência artificial (IA) para ajudar anunciantes a chegarem ao público desejado. Entre elas, está a possibilidade de segmentar anúncios com uma ajuda extra dos sistemas de IA da empresa.

As novidades fazem parte do Advantage+, programa da Meta que ajuda empresas a criarem e distribuírem anúncios com uso de IA. Para alcançar mais pessoas e, portanto, mais clientes, o sistema de inteligência artificial vai determinar quais pessoas (usuários do Facebook e Instagram, por exemplo) são mais propícias a se interessarem por determinado anúncio.

Atualmente, a Meta permite que as empresas escolham seu próprio segmento. Uma marca masculina de chuteiras, por exemplo, pode escolher anunciar para homens de 18 a 35 anos que gostam de futebol, englobando essas três categorias (gênero, idade e preferências). Com a novidade anunciada nesta quarta, a própria inteligência artificial vai determinar quem vai se interessar por esse anúncio.

Dessa forma, a empresa dá sugestões de públicos de interesse, enquanto a inteligência artificial escolhe pessoas fora dessas sugestões se achar que elas estarão interessadas e com probabilidade de conversão.

A Meta não especificou como vai determinar as pessoas que estarão interessadas em determinado anúncio, mas essa tarefa provavelmente será executada com base nos dados de navegação dos usuários nas redes sociais, dando um passo além do uso comercial de informações pessoais.

A ferramenta está em fase de testes e deve ser expandida a mais anunciantes nos próximos meses. Por enquanto, a Meta não revelou qual tem sido a taxa de sucesso da IA.

O resultado esperado pela empresa são anúncios cada vez mais segmentados, atingindo clientes com gostos específicos, mesmo que eles não se relacionem com os grupos demográficos dos quais fazem parte.

Inteligência artificial e viéses

Atualmente, uma das grandes preocupações em torno de sistemas de IA é a reprodução de viéses existentes na sociedade, como racismo e machismo. Há casos, por exemplo, de anúncios de determinadas vagas de emprego serem distribuídos apenas para homens porque, historicamente, se tratavam de profissões mais ocupadas por homens – o que ajuda a perpetuar o problema.

Ao usar inteligência artificial para determinar a segmentação de anúncios, é possível que viéses sociais como esse sejam reproduzidos pelas máquinas.

Uma reportagem do portal iG de 2021 revelou, por exemplo, que o Google usa um sistema de inteligência artificial tendencioso para determinar o gênero dos usuários que decidem não revelar essa informação. Se uma pessoa pesquisa muito sobre futebol e tecnologia, por exemplo, o algoritmo entende que se trata de um homem e começa a direcionar à pessoa anúncios destinados ao público masculino.

No anúncio desta quinta-feira, a Meta prometeu não apenas auxiliar empresas com anúncios, mas também criar melhores experiências para as pessoas.

Fonte: Tecnologia

O post Meta usa inteligência artificial para segmentar ainda mais os anúncios apareceu primeiro em FATO MT.

O presidente do Senado, Rodrigo Pacheco (PSD-MG), protocolou na noite de ontem (5) um projeto de lei para estabelecer um marco regulatório sobre o uso da tecnologia de inteligência artificial (IA) no país. O texto foi elaborado por juristas e professores especialistas em direito civil e digital.

Um dos principais pontos do texto é a previsão de responsabilização do fornecedor ou operador do sistema de inteligência artificial, na medida de sua participação em eventual dano causado. No caso de IAs cuja aplicação envolva alto risco, essa responsabilidade será objetiva, isto é: independerá da comprovação de culpa ou dolo (intenção consciente).

No caso de sistema com risco abaixo de alto, o fornecedor ou operador do sistema terá sua culpa presumida, cabendo a ele comprovar que não é culpado, ficando a vítima do dano dispensada de provar tal culpa.

O texto não prevê sanções penais, mas traz descrito quais seriam as obrigações da autoridade competente por fiscalizar o cumprimento das regras, dentre as quais está aplicar sanção administrativa em caso de infração às regras, incluindo multa de até R$ 50 milhões para pessoas física e de até 2% do faturamento no caso de pessoa jurídica.

Gradação de risco

Todo o projeto é baseado na ideia de gradação de riscos na aplicação da IA – de baixo e moderado a alto e extremo. Nesses dois últimos casos, são estabelecidas regras mais rígidas de governança para utilização da tecnologia, incluindo a elaboração de mecanismos de intervenção humana e desativação.

Além do uso em veículos autônomos e da operação de infraestrutura estratégica – como sistema de transmissão de energia –, entre as atividades de alto risco na aplicação de IA, o texto coloca o recrutamento e a avaliação de empregados, a avaliação de critérios para acesso a serviços públicos e privados e avaliação de crédito, aplicações na área de saúde e sistema biométricos de identificação.

O entendimento é o de que, nesses casos, o uso de sistemas de IA possa acarretar discriminação direta, indireta, ilegal ou abusiva, em decorrência de informações pessoais como cor da pele, orientação sexual ou origem geográfica.

“Além de adotar definições sobre discriminação direta e indireta – incorporando, assim, definições da Convenção Interamericana contra o Racismo, promulgada em 2022 –, o texto tem como ponto de atenção grupos (hiper) vulneráveis tanto para a qualificação do que venha a ser um sistema de alto risco como para o reforço de determinados direitos”, diz a justificativa do projeto.

O texto coloca limites para a utilização de sistemas de IA na segurança pública para identificação biométrica em espaços públicos, por exemplo, como as câmeras de reconhecimento facial. Nesse caso, a utilização da tecnologia é considerada de risco extremo e só será permitida mediante aprovação de lei federal específica e de autorização judicial em três casos:

1. Busca de suspeitos de crimes com pena máxima superior a dois anos de prisão;
2. Busca de vítimas de crimes e desaparecidas; e
3. Crimes em flagrante.

A íntegra do projeto de lei, que substitui outras três iniciativas anteriores, pode ser acessada no portal do Senado Federal.

Elaboração

O texto foi elaborado por uma comissão de 17 pessoas, entre advogados, professores de direito e de tecnologia, bem como um perito criminal da Polícia Federal e um consultor legislativo, além do apoio de diversos servidores. Os trabalhos foram coordenados pelo ministro Ricardo Villas Bôas Cuevas, do Superior Tribunal de Justiça (STJ).

Ao longo de 2022, o grupo promoveu quatro audiências públicas e um seminário internacional, além de 12 painéis temáticos, e disse ter ouvido mais de 60 especialistas de diversas áreas sobre os diferentes aspectos do tema. Também foi encomendado estudo sobre as regulamentações em 30 países que já adotam algum tipo de regra. O texto agora deve seguir para análise pelas comissões temáticas do Senado.

Entre no canal do Último Segundo no Telegram e veja as principais notícias do dia no Brasil e no Mundo. Siga também o perfil geral do Portal iG.

Fonte: Política Nacional

O post Pacheco propõe projeto para regulamentar Inteligência Artificial apareceu primeiro em FATO MT.

O presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou nesta semana um projeto de lei para regulamentar sistemas de inteligência artificial no Brasil. O texto incorpora ideias e propostas de uma comissão de juristas e outros três projetos que já tramitavam no Senado e na Câmara sobre o mesmo tema.

A comissão de juristas avaliou esses projetos, estudou o tema e realizou mais de 70 audiências públicas, enviando um relatório final ao Senado, cujas ideias foram incorporadas na proposta de Pacheco.

O texto prevê tanto regulamentar esses sistemas para proteger os usuários quanto para garantir que haja concorrência justa na indústria.

“De um lado, estabelece direitos para proteção a pessoa diariamente impactada por sistemas de inteligência artificial, desde a recomendação de conteúdo e direcionamento de publicidade na internet até a sua análise de elegibilidade para tomada de crédito e para determinadas políticas públicas. De outro lado, de um arranjo institucional de fiscalização e supervisão, cria condições de previsibilidade acerca da sua interpretação e, em última análise, segurança jurídica para inovação e o desenvolvimento tecnológico”, diz trecho do projeto de lei.

O projeto prevê multa de até R$ 50 milhões para empresas que violarem as regras impostas, punição que será enquadrada na Lei Geral de Proteção de Dados Pessoais (LGPD). Dentre as regras, estão:

• a proibição de empresas de explorar a vulnerabilidade de consumidores, como deficientes e idosos;
• a proibição do governo de avaliar o comportamento de usuários em redes sociais para definir se as pessoas terão direito a políticas públicas;
• o direito dos usuários de serem informados sobre como as inteligências artificiais tomam decisões;
• a obrigação de empresas corrigirem viéses descriminatórios em sistemas de inteligência artificial.

O texto passará por uma comissão técnica no Senado antes de ir a votação. Se aprovado na Casa, ele segue para a Câmara dos Deputados e, depois, para sanção presidencial.

Fonte: Tecnologia

O post Pacheco propõe lei para regulamentar inteligência artificial no Brasil apareceu primeiro em FATO MT.

“Desinformação estratégica”. É assim que o pesquisador Tarcízio Silva, mestre em Comunicação e Cultura Contemporâneas pela UFBA e estudioso do racismo algorítmico, define a carta assinada por Elon Musk e por diversos empresários e acadêmicos estadunidenses na última semana. O texto critica o avanço da inteligência artificial (IA) mas, na visão de pesquisadores brasileiros, não pelo motivo correto.

É o que acredita Fernanda Rodrigues, mestre em Direitos da Sociedade em Rede pela UFSM e coordenadora de pesquisa no Instituto de Referência em Internet e Sociedade (IRIS). “É sempre importante ressaltar os perigos que o desenvolvimento irresponsável de IA pode representar, porém a carta não endereçou isso da forma mais embasada”, avalia a pesquisadora.

Na carta, Musk, empresários e acadêmicos pedem uma pausa em experimentos relacionados à inteligência artificial, citando riscos que Fernanda considera futuristas. “Devemos arriscar perder o controle de nossa civilização?”, questiona o texto.

“O texto fala muito sobre os riscos de uma IA futurística, que pode se sobrepor à vontade humana e gerar um perigo à própria existência desta, mas mesmo mencionando um exemplo nas referências, deixa de lado toda a produção científica que aponta os problemas já enfrentados hoje com o uso dessa tecnologia, como vieses discriminatórios, desinformação e discurso de ódio. Portanto, isso gera questionamentos a respeito da efetiva preocupação que esse texto apresenta”, analisa Fernanda.

A carta ainda menciona diretamente o GPT-4 , versão mais atualizada da inteligência artificial que deu origem ao famoso ChatGPT . A OpenAI, empresa criadora das tecnologias, teve Elon Musk como um de seus fundadores e, atualmente, o bilionário critica os rumos que a companhia tomou, sobretudo por receber forte financiamento da Microsoft. De acordo com reportagem do site Semafor, Musk tentou assumir o controle da OpenAI antes de deixá-la, mas teve a recusa de outros fundadores.

Além do bilionário, outros empresários também assinam a carta. Para Tarcízio, um dos principais objetivos do texto é “chacoalhar as inclinações do capital financeiro na circulação de recursos”. O pesquisador cita outro grande objetivo da carta, que seria o de “promover uma noção de que o principal problema da inteligência artificial é uma suposta possibilidade futura de superação das capacidades dos humanos, que perderiam o controle”, assim como acredita Fernanda.

“A carta soterra atores acadêmicos, políticos e ativistas que estão propondo soluções multisetoriais de controle da tecnologia que poderiam beneficiar todas as pessoas”, afirma Tarcízio.

Os reais riscos da inteligência artificial

Apesar de ter forte viés econômico, a carta divulgada na última semana trouxe à tona um debate bastante conhecido entre pesquisadores e ativistas: os riscos da inteligência artificial.

O problema, porém, não gira em torno de consequências futuras, que parecem vir de filmes de ficção científica, mas sim de questões que já estão presentes no nosso cotidiano.

“Nós temos hoje diferentes estudos que falam sobre os riscos associados ao desenvolvimento de IA. Dentre eles, destaco a disseminação de notícias falsas, não só por meio de texto, mas também por geração de imagens e deepfake. Da mesma forma, tem sido igualmente preocupante a reprodução de vieses discriminatórios por sistemas de IA, seja por viés de gênero, raça, classe social ou outro”, comenta Fernanda.

Algoritmos de inteligência artificial que usamos cotidianamente, como os presentes nas redes sociais, são capazes de trazerem consequências graves. A disseminação de desinformação e discurso de ódio são algumas delas, assim como o racismo algorítmico.

O conceito revela que os sistemas de inteligência artificial carregam consigo preconceitos e viéses, trazendo resultados discriminatórios. Alguns exemplos famosos são o uso de reconhecimento facial na segurança pública, que acaba reforçando o racismo estrutural, ou o caso de 2020 em que o algoritmo do Twitter retirava pessoas negras das fotos ao fazer o corte automático das imagens, sempre privilegiando rostos brancos.

Além de viéses de raça, sistemas de IA também podem carregar viéses de classe social ou gênero. Um exemplo é esta reportagem de 2021 do portal iG , que revela que o sistema do Google utiliza um algoritmo tendencioso para definir o gênero de seus usuários.

“Quando sistemas gigantescos possuem falhas contra grupos específicos, os impactos vão muito além dos danos individuais. As históricas desigualdades sociais podem ser aprofundadas se a mediação de recursos sociais é concentrada em poucas empresas através de plataformas”, analisa Tarcízio.

Empresas sem controle

Atualmente, a sociedade civil e pesquisadores discutem parâmetros que as empresas devem adotar para desenvolver inteligências artificiais éticas e responsáveis socialmente. Esse tipo de cuidado, porém, não é colocado em prática.

Sistemas poderosos de IA, como o ChatGPT e o Bard , do Google, foram disponibilizados aos usuários ainda em fase de testes, quando podem ter problemas que não foram previstos nem corrigidos pelas empresas. A preocupação dentre as empresas de tecnologia ainda é tão pequena que, recentemente, a Microsoft, que vem investindo fortemente em IA, demitiu toda a sua equipe de ética no setor, segundo o site especializado Platformer.

No mundo, existem poucas regulações a respeito do desenvolvimento de inteligências artificiais. O principal exemplo é o AI Act, da União Europeia, que define algumas regras que devem ser adotadas pelas empresas.

No Brasil, existe o Projeto de Lei 21/2020, conhecido como Marco Legal da Inteligência Artificial, que foi aprovado no plenário da Câmara dos Deputados em 2021, mas não chegou a ser votado no Senado. No ano passado, uma comissão de juristas do Senado elaborou um substitutivo a partir deste PL da Câmara e de outros dois apresentados no Senado.

“A gente ainda está aguardando para que esse novo texto, mais aprofundado, seja colocado em pauta para que possa ser melhor discutido com todos os setores da sociedade”, afirma Fernanda.

Fonte: Tecnologia

O post Inteligência artificial tem problemas, mas não os levantados por Musk apareceu primeiro em FATO MT.

Centenas de pesquisadores e empresários assinaram uma carta aberta pedindo para que empresas de tecnologia pausem seus experimentos em inteligência artificial (IA). A carta conta com assinaturas de nomes como Elon Musk, CEO da Tesla, SpaceX e Twitter, Steve Wozniak, cofundador da Apple, Jaan Tallinn, cofundador do Skype, e Evan Sharp, cofundador do Pinterest. O número de apoiadores do texto, que pode ser assinado por qualquer pessoa, já ultrapassa mil.

Na carta, os assinantes pedem para que as empresas pausem os experimentos em inteligência artificial por seis meses para que protocolos de segurança sejam inseridos nos sistemas. O texto critica o modo de fazer de “publicar depois corrigir”, adotado, por exemplo, pela OpenAI ao permitir que o público usasse o ChatGPT sem que ele estivesse pronto, o que gerou problemas com desinformação e discurso de ódio.

A carta afirma que os produtos de inteligência artificial não estão sendo planejados e gerenciados com cuidados suficientes, o que pode causar problemas. “Nos últimos meses, foi visto laboratórios de IA travados em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”, diz o texto.

“Devemos arriscar perder o controle de nossa civilização?”, questiona a carta, que defende que “sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”.

No texto, os assinantes pedem para que as empresas pausem os treinamentos de sistemas de IA “mais poderosos que o GPT-4”. Anunciado pela Open AI, o GPT-4 é um sistema avançado de inteligência artificial, mais poderoso que o ChatGPT, que já é usado por algumas companhias.

“Isso não significa uma pausa no desenvolvimento da IA ​​em geral, apenas um retrocesso na corrida perigosa para modelos de caixa preta cada vez maiores e imprevisíveis com capacidades emergentes. A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas avançados e poderosos de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis ​​e leais”, diz a carta.

O texto ainda define uma série de parâmetros para manter as inteligências artificias seguras, e pede que governos intervenham para que eles se tornem obrigatórios.

Atualmente, algumas legislações sobre inteligência artificial avançam na Europa e no Canadá, por exemplo, exigindo parâmetros básicos de transparência e segurança para o desenvolvimento de novas inteligências artificiais.

No Brasil, existe o Projeto de Lei 21/2020, conhecido como Marco Legal da Inteligência Artificial, que foi aprovado no plenário da Câmara dos Deputados em 2021, mas não chegou a ser votado no Senado.

No ano passado, uma comissão de juristas do Senado elaborou um substitutivo a partir deste PL da Câmara e de outros dois apresentados no Senado, que ainda precisa ser discutido antes de ser votado nas duas Casas.

Fonte: Tecnologia

O post Musk e especialistas pedem pausa em testes com inteligência artificial apareceu primeiro em FATO MT.

A Microsoft lançou nesta quinta-feira (16) um sistema de inteligência artificial que prometer ser o ‘copiloto’ dos trabalhadores. Chamado de Microsoft 365 Copilot, o recurso automatiza diversas tarefas nos aplicativos da empresa.

De acordo com a Microsoft, esta é a ferramenta de produtividade mais poderosa do planeta. “Hoje marca o próximo grande passo na evolução sobre como interagimos com a computação, o que mudará fundamentalmente a maneira como trabalhamos e desbloqueará uma nova onda de produtividade”, disse Satya Nadella, presidente e CEO da Microsoft. “Com o nosso novo copiloto para o trabalho, estamos oferecendo mais autonomia para as pessoas e tornamos a tecnologia mais acessível através de uma interface universal: a linguagem natural”, completou.

O Microsoft 365 Copilot pode ser usado em aplicativos como Word, Excel, PowerPoint, Outlook e Teams, executando tarefas como fazer resumos, montar apresentações e até analisar planilhas.

Em um vídeo de divulgação, a Microsoft mostra a inteligência artificial respondendo a várias solicitações do usuário, como fazer um resumo para prepará-lo para uma reunião, fazer o rascunho da apresentação de um novo produto, criar uma apresentação com slides, analisar uma planilha e até fazer o resumo de uma reunião ao vivo em que a pessoa chegou atrasada. Confira:

O novo ‘copiloto’ da Microsoft ainda promete ser personalizado para cada empresa, criando um “modelo de conhecimento para cada organização, aproveitando uma enorme base de dados e insights, até hoje inacessível e, em grande parte, inexplorada”.

Fonte: IG TECNOLOGIA

O post Microsoft surpreende com ‘copiloto’ artificial que ajuda no trabalho apareceu primeiro em FATO MT.