Conecte-se com a gente!

TECNOLOGIA

Vários produtos populares de IA sinalizados como inseguros para crianças pela Common Sense Media

Uma análise independente de ferramentas populares de IA descobriu que muitas – incluindo My AI, DALLE e Stable Diffusion do Snapchat – podem não ser seguras para crianças. As novas críticas vêm de Mídia de senso comumum grupo sem fins lucrativos de defesa de famílias mais conhecido por fornecer avaliações da mídia para pais que desejam avaliar os aplicativos, jogos, podcasts, programas de TV, filmes e livros que seus filhos estão consumindo. No início deste ano, o empresa disse em breve acrescentaria classificações para produtos de IA aos seus recursos para famílias. Hoje, essas classificações foram ao aroferecendo os chamados “rótulos nutricionais” para produtos de IA, como chatbots, geradores de imagens e muito mais.

A empresa anunciou pela primeira vez em julho que pretendia construir um sistema de classificação para avaliar produtos de IA em várias dimensões, incluindo se a tecnologia tira partido ou não de práticas responsáveis ​​de IA, bem como a sua adequação para crianças. A mudança foi desencadeada por uma pesquisa com pais para avaliar seu interesse nesse serviço. 82% dos pais disseram que queriam ajuda para avaliar se os novos produtos de IA, como o ChatGPT, eram seguros ou não para uso dos filhos. Apenas 40% disseram conhecer quaisquer recursos confiáveis ​​que os ajudariam a tomar essas decisões.

Isso levou ao lançamento de hoje do Common Sense Media’s primeiras classificações de produtos de IA. Os produtos que avalia são classificações em vários princípios de IA, incluindo confiança, segurança das crianças, privacidade, transparência, responsabilidade, aprendizagem, justiça, conexões sociais e benefícios para as pessoas e a sociedade.

A organização analisou inicialmente 10 aplicativos populares em uma escala de 5 pontos, incluindo aqueles usados ​​para aprendizagem, chatbots de IA como Bard e ChatGPT, bem como produtos de IA generativos, como My AI e DALL-E da Snap e outros. Não é de surpreender que a última categoria tenha tido o pior desempenho.

“A IA nem sempre é correta, nem é neutra em termos de valores”, observou Tracy Pizzo-Frey, consultora sênior de IA da Common Sense Media, em um resumo das classificações. “Toda a IA generativa, em virtude do facto de os modelos serem treinados em grandes quantidades de dados da Internet, acolhe uma grande variedade de preconceitos culturais, raciais, socioeconómicos, históricos e de género – e foi exatamente isso que encontrámos nas nossas avaliações, ” ela disse. “Esperamos que nossas classificações encorajem mais desenvolvedores a criar proteções que limitem a propagação de desinformação e façam a sua parte para proteger as gerações futuras de repercussões não intencionais.”

Nos próprios testes do TechCrunch, a repórter Amanda Silberling descobriu Os recursos de IA generativa My AI do Snapchat geralmente tendem a ser mais estranhos e aleatórios, do que ativamente prejudicial, mas Common Sense Media deu ao chatbot AI uma classificação de 2 estrelas, observando que produziu algumas respostas que reforçaram preconceitos injustos em torno do preconceito de idade, do sexismo e dos estereótipos culturais. Também oferece algumas respostas inadequadas, às vezes, bem como imprecisões. Ele também armazenou dados pessoais de usuários, o que, segundo a organização, levantava questões de privacidade.

Snap rejeitou a crítica negativa, observando que My AI era uma ferramenta opcional e que o Snapchat deixa claro que é um chatbot e aconselha os usuários sobre suas limitações. My AI também está integrado ao Family Center para que os pais possam ver se e quando os adolescentes estão conversando com ele, disse a empresa ao TechCrunch, mas acrescentou que a empresa apreciou o feedback fornecido pela análise à medida que continua a melhorar seu produto.

Outros modelos generativos de IA como DALL-E e Difusão Estável tinham riscos semelhantes, incluindo uma tendência para a objectificação e sexualização de mulheres e raparigas e um reforço dos estereótipos de género, entre outras preocupações. (Os pedidos de comentários não foram retornados imediatamente.)

Como qualquer novo meio na Internet, estes modelos generativos de IA também são sendo usado para produzir materiais pornográficos. Sites como Abraçando o rosto e Civitai tornaram-se populares não apenas como recursos para encontrar novos modelos de imagem, mas também tornando mais fácil encontrar diferentes modelos que podem ser combinados entre si para fazer pornografia usando a imagem de alguém (como uma celebridade). Essa questão veio à tona esta semana, quando 404Mídia destacou as capacidades do Civitai, mas o debate sobre a parte responsável – os agregadores da comunidade ou os próprios modelos de IA – continuou em sites como o Hacker News depois.

No nível intermediário das classificações do Common Sense, estavam os chatbots de IA como o do Google Bardo (que ontem oficialmente aberto para adolescentes), Bate-papoGPTe IA infantil. A organização alertou que o preconceito também pode ocorrer nesses bots, especialmente para usuários com “origens e dialetos diversos”. Eles também poderiam produzir informações imprecisas – ou alucinações de IA – e reforçar estereótipos. O Senso Comum alertou que as informações falsas que a IA produz podem moldar a visão de mundo dos usuários e tornar ainda mais difícil separar os fatos da ficção.

Os únicos produtos de IA que receberam boas críticas foram Ello’s Tutor de leitura de IA e serviço de entrega de livros, Khanmingo (da Khan Academy), e Kyron Aprendizagem Tutor de IA – todos os três produtos de IA projetados para fins educacionais. Eles são menos conhecidos que outros. (E, como algumas crianças podem argumentar, menos divertido). Ainda assim, como as empresas os conceberam tendo em mente a utilização pelas crianças, tenderam a utilizar práticas responsáveis ​​de IA e concentraram-se na justiça, na representação diversificada e em considerações de design adequadas às crianças. Eles também foram mais transparentes sobre suas políticas de privacidade de dados.

A Common Sense Media afirma que continuará a publicar classificações e análises de novos produtos de IA de forma contínua, o que espera ajudar a informar não apenas os pais e famílias, mas também os legisladores e reguladores.

“Os consumidores devem ter acesso a um rótulo nutricional claro para produtos de IA que possam comprometer a segurança e a privacidade de todos os americanos – mas especialmente de crianças e adolescentes”, disse James P. Steyer, fundador e CEO da Common Sense Media, num comunicado. “Ao aprender o que é o produto, como funciona, seus riscos éticos, limitações e usos indevidos, legisladores, educadores e o público em geral podem entender como é a IA responsável. Se o governo não conseguir proteger a IA das crianças, as empresas tecnológicas tirarão partido desta atmosfera desregulamentada e livre, em detrimento da privacidade dos nossos dados, do nosso bem-estar e da democracia em geral”, acrescentou.

Fonte: techcrunch.com

Tópicos relacionados:
Continue lendo
Clique para comentar

Deixe sua resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

TECNOLOGIA

Os robotaxis de cruzeiro retornam à Bay Area quase um ano após o acidente com pedestres

Cruzeiro está retornando às ruas de Sunnyvale e Mountain View pela primeira vez desde que interrompeu as operações na Bay Area depois que um robotáxi atropelou um pedestre em outubro de 2023.

A empresa disse na quinta-feira que colocará “vários” veículos dirigidos por humanos nas duas cidades que inicialmente farão o mapeamento. A empresa disse que espera progredir para testes supervisionados de AV de até cinco robotaxis “mais tarde neste outono”.

“Retomar os testes na Bay Area é um passo importante à medida que continuamos a trabalhar em estreita colaboração com os reguladores da Califórnia e as partes interessadas locais”, disse a empresa em um comunicado. publicar no X. “Isso permitirá que nossos funcionários locais se envolvam diretamente com nosso produto enquanto refinam e melhoram nossa tecnologia por meio de P&D.”

A decisão de trazer os Chevy Bolts autônomos da Cruise de volta à Bay Area acontece poucos meses depois que a empresa chegou a um acordo com a Comissão de Serviços Públicos da Califórnia. Como parte desse acordo, a Cruise pagou uma multa de US$ 112.500 por não fornecer informações completas sobre o acidente de outubro de 2023.

Esse acidente, que envolveu um Cruise AV atingindo e arrastando uma pedestre após ela ter sido atingida por um carro dirigido por uma pessoa, deu início a uma série de eventos que acabaram levando a uma reestruturação da empresa robotaxi.

Pouco depois do acidente, a Cruise se separou de grande parte de sua equipe de liderança, incluindo cofundador e CEO Kyle Vogt. A empresa-mãe General Motors instalou uma nova liderança e, em junho passado, conectado outros US$ 850 milhões na subsidiária robotaxi. (Cruise também assentou com o pedestre no início deste ano.)

Desde junho, a Cruise lentamente retornou seus veículos autônomos às ruas de Fênix e Dallase simultaneamente descartou seu robotaxi construído para esse fimconhecida como a Origem.

A Cruise também lançou uma série de atualizações de software para resolver um recall de seus robotaxise a National Highway Traffic Safety Administration encerrou uma investigação sobre relatos de problemas de frenagem. Em agosto, a Cruise anunciou que havia assinado um acordo de parceria plurianual com a Uber para levar seus robotaxis para a plataforma de transporte por aplicativo em 2025 — juntando-se à rival Waymo, que tinha seus robotaxis disponíveis na plataforma da Uber desde 2023.

Fonte: techcrunch.com

Continue lendo

TECNOLOGIA

Startup de seguro saúde Alan atinge avaliação de US$ 4,5 bilhões com nova rodada de financiamento de US$ 193 milhões

Alano unicórnio francês dos seguros, acaba de assinar um acordo multifacetado com Belfioum dos maiores bancos da Bélgica, que inclui uma parceria de distribuição juntamente com um investimento financeiro significativo na startup.

Belfius está liderando a rodada de financiamento da Série F de Alan de € 173 milhões (cerca de US$ 193 milhões nas taxas de câmbio atuais). Alguns dos investidores existentes de Alan estão participando mais uma vez, a saber, OTPP via Teachers’ Venture Growth, Temasek, Coatue e Lakestar.

Se você não conhece Alan, a empresa começou originalmente com um produto de seguro saúde que complementa o sistema nacional de saúde na França. As empresas francesas devem fornecer seguro saúde a todos os seus funcionários quando eles se juntam.

Alan otimizou seu produto principal o máximo possível para que sua experiência de usuário seja muito melhor do que a de um provedor de seguros legado. Por exemplo, Alan automatizou muitas partes do sistema de gerenciamento de reivindicações. Em alguns casos, você recebe um reembolso em sua conta bancária apenas um minuto após sair do consultório médico.

Com o tempo, a empresa adicionou outros serviços relacionados à saúde, como a capacidade de conversar com médicos, pedir óculos de prescrição e usar conteúdo de cuidados preventivos sobre saúde mental, dor nas costas e muito mais por meio de seu aplicativo móvel. Mais recentemente, a empresa recorreu à IA para aumentar sua produtividade.

No início deste anoAlan compartilhou algumas métricas sobre o desempenho da empresa. A empresa havia dito que mais de 500.000 pessoas estavam cobertas pelos produtos de seguro de Alan, e que poderia atingir a lucratividade sem levantar outra rodada de financiamento.

Mas Alan disse que a parceria com o Belfius era uma boa oportunidade para aumentar sua base de clientes na Bélgica — o banco oferecerá os produtos de seguro saúde da startup para seus próprios clientes corporativos e institucionais, que representam milhões de funcionários.

“Esta parceria privilegiada com a Belfius, cuja transformação na última década foi verdadeiramente inspiradora, abre as portas para uma nova era para a Alan na Bélgica. O investimento da Belfius nos permitirá acelerar nosso desenvolvimento e expandir nossa capacidade de oferecer produtos e serviços de saúde de ponta e acessíveis a um amplo público”, disse o cofundador e CEO da Alan, Jean-Charles Samuelian-Werve, em uma declaração.

Desde fevereiro, a Alan adicionou mais 150.000 clientes, incluindo no escritório do Primeiro Ministro na França. Ela espera que sua receita recorrente anual alcance € 450 milhões (cerca de US$ 500 milhões) este ano.

No entanto, a Alan não é uma empresa típica de software como serviço, e a maior parte de sua receita é reservada para atender reivindicações de seguro. Ainda assim, uma coisa é certa — o crescimento da empresa não parece estar diminuindo.

Fonte: techcrunch.com

Continue lendo

TECNOLOGIA

Uma reformulação na liderança da Motional, dentro da briga pelo dinheiro da TuSimple, e Fisker hesita em reparos de recall

Bem-vindo de volta a TechCrunch Mobilidade — seu hub central para notícias e insights sobre o futuro do transporte. Inscreva-se aqui gratuitamente — basta clicar TechCrunch Mobilidade!

O último ciclo de notícias é um bom lembrete de que até mesmo uma repórter velha e grisalha que acha que já viu de tudo ainda pode se surpreender — e nada dura para sempre. Intrigado? Continue lendo.

Um passarinho

Créditos da imagem: Bryce Durbin

Bem, com certeza está ficando picante aqui TuSimplede acordo com vários passarinhos.

A empresa divulgou no mês passado um novo segmento de negócios focado em — espere só — animação gerada por IA e videogames. Essa ação, nossa pequena rede de passarinhos nos contou, provocou reação negativa entre alguns acionistas. Agora parece que um a luta está se formando por cerca de US$ 450 milhões em fundosa maior parte da qual permanece nos Estados Unidos. E argumentos sobre a missão da empresa estão no centro disso.

As repórteres do TechCrunch Rebecca Bellan e Rita Liao investigaram a história, e há alguns detalhes interessantes. Por exemplo, a TuSimple estava reforçando sua força de trabalho de veículos autônomos na China no final do ano passado, mas mudou de rumo no início de 2024. Centenas foram demitidas, embora, quando questionado, o CEO Cheng Lu tenha dito a Rebecca que essas pessoas (cerca de 500) pediram demissão em massa.

Para onde a TuSimple vai daqui? Houve ameaças de processos, embora nada de novo ainda. Enquanto as ameaças pairam no fundo, a TuSimple está avançando com o desenvolvimento de um longa-metragem de animação e videogame baseado na série de ficção científica “The Three-Body Problem”.

Essa mudança radical me fez pensar: Nossa, talvez eu esteja cobrindo esse setor há tempo demais.

Tem uma dica para nós? Envie um e-mail para Kirsten Korosec em kirsten.korosec@techcrunch.comSean O’Kane em sean.okane@techcrunch.com ou Rebecca Bellan em rebecca.bellan@techcrunch.com. Ou confira estas instruções para saber como entrar em contato conosco por meio de aplicativos de mensagens criptografadas ou SecureDrop.

Ofertas!

dinheiro a estação
Créditos da imagem: Bryce Durbin

O fluxo de negócios no setor de transporte está um pouco fraco esta semana. Aqui estão alguns destaques.

Companhias aéreas do Alasca completou seu Aquisição de US$ 1,9 bilhão da Hawaiian Airlines. A aquisição é mais um exemplo de consolidação no setor aéreo.

Frota AIuma startup de tecnologia de transporte rodoviário, arrecadou US$ 16,6 milhões em uma rodada de financiamento da Série B liderado por Tom Williams na Heron Rock. Notavelmente, a Volvo Group VC participou, junto com Obvious Ventures, Ibex Investors, Compound, Winthrop Square e Cooley. A empresa levantou US$ 50 milhões até o momento.

Elétrica limpauma startup indiana de tecnologia de baterias, arrecadou US$ 6 milhões em uma rodada de financiamento coliderada pela Info Edge Ventures, Pi Ventures e Kalaari Capital. Lok Capital e outros investidores também participaram.

SiLC recebeu um investimento não divulgado da Honda para desenvolver soluções lidar FMCW de última geração para todos os tipos de mobilidade.

ZeroAviauma startup que desenvolve motores elétricos a hidrogênio (alimentados por células de combustível) para aviões, estendeu sua rodada de financiamento da Série C para um total de $ 150 milhõescom um investimento do Scottish National Investment Bank. A rodada foi coliderada pela Airbus, Barclays Sustainable Impact Capital e NEOM Investment Fund, com o UK Infrastructure Bank se juntando como um investidor de nível fundamental. Breakthrough Energy Ventures, Horizons Ventures, Ecosystem Integrity Fund, Summa Equity, Alaska Airlines, Amazon’s Climate Pledge Fund e AP Ventures também participaram.

Oxauma startup apoiada pelo Google que desenvolve software para veículos autônomos, adquiriu a empresa de logística industrial StreetDrone por uma quantia não revelada.

Leituras notáveis ​​e outras curiosidades

Veículos autônomos

Mocional presidente e CEO Carlos Iagnemma — um pioneiro na indústria AV — deixou o cargo de liderança máxima. A CTO Laura Major é agora CEO interina. Não se sabe se Major manterá essa posição. Minhas fontes internas sugerem que esta é uma situação muito em evolução. Fique ligado.

Waymo e Uber expandiram seu relacionamento em um acordo que é maior do que algumas pessoas podem perceber. Usuários do Uber em Austin e Atlanta poderão saudações Waymo robotaxis por meio do aplicativo no início de 2025 como parte de uma parceria expandida entre as duas empresas. Por que tão notável? Para começar, a Uber, não a Waymo, será a operadora.

Veículos elétricos, carregamento e baterias

Faraday Futuro está distribuindo grandes aumentos e bônus para seu CEO e seu fundador. Lembre-se de que esta empresa está mal se segurando e entregou apenas 13 carros em seus 10 anos de história.

Pescadora startup de veículos elétricos falida, é invertendo o curso poucos dias depois de informar aos proprietários que eles teriam que pagar os custos de mão de obra para os reparos do recall.

GMOs clientes de veículos elétricos da agora podem acesso oficial Os Superchargers da Tesla, mais de um ano depois que a montadora anunciou que adotaria os Superchargers de sua rival padrão de carregamento. Mas e todos os outros EVs não Tesla por aí? Fique ligado para uma lista que manteremos atualizada.

Gogoro CEO Horace Luke resignado enquanto uma investigação sobre fraude de subsídios continua na fabricante taiwanesa de patinetes elétricos e empresa de troca de baterias.

O futuro do voo

Startup do Reino Unido Apianoempresa de drones da Alphabet Asae o Serviço Nacional de Saúde do Reino Unido têm lançou um programa piloto que usará drones para transportar amostras de sangue urgentes entre dois hospitais em Londres.

UnidoA diretora de atendimento ao cliente da empresa, Linda Jojo, explicou ao TechCrunch por que o companhia aérea escolheu Starlink da SpaceX para alimentar seu Wi-Fi gratuito.

Segurança

Lembre-se daquele aparente ataque cibernético no Porto de Seattleque também opera o Aeroporto Internacional de Seattle-Tacoma? Agora temos confirmação oficial que foi alvo de um ataque de ransomware.

Rodas desta semana

As rodas desta semana retornarão na próxima semana com insights sobre o GMC Sierra EV. Os veículos futuros incluem o Mazda CX-90 PHEV e bicicletas elétricas.

O que é “This week’s wheels”? É uma chance de aprender sobre os diferentes produtos de transporte que estamos testando, seja um carro elétrico ou híbrido, uma e-bike ou até mesmo um passeio em um veículo autônomo.

Fonte: techcrunch.com

Continue lendo

Top

Social Media Auto Publish Powered By : XYZScripts.com