O Download: risco de extinção de IA e ameaça de armas biológicas
Esta é a edição de hoje de A Transferência, nosso boletim informativo que fornece uma dose diária do que está acontecendo no mundo da tecnologia.
A IA pode mesmo matar-nos a todos? As suas perguntas, respondidas
Na quarta-feira, Revisão de Tecnologia do MIT hospedou um evento Roundtables ao vivo que fez a pergunta que muitos parecem estar fazendo neste momento: poderia AI realmente matar todos nós? Mas os participantes tinham mais perguntas do que tivemos tempo de responder, então pedimos ao editor sênior de IA Will Douglas Heaven e à repórter de IA Grace Huckins para enfrentar alguns dos melhores.
As perguntas que tentaram responder incluem: vou morrer? Porque é que o Al nos mataria? A IA é mesmo perigosa, ou são só as empresas de tecnologia a tocar RP? E que medidas podem ser tomadas para garantir que a IA seja controlada, monitorada e regulamentada de forma eficaz?
Aqui estão as suas respostas.
—Será que Douglas Céu e Graça Huckins
O espectro de armas biológicas habilitadas por IA é um alerta para a biotecnologia.
Uma das maneiras que a IA poderia potencialmente causar danos catastróficos é ajudando o projeto e criação de armas biológicas. Em 2022, pesquisadores descobriram que era notavelmente fácil fazer isso com um “gerador de moléculas” de IA construído para desenvolver drogas. Em menos de seis horas, o modelo gerou 40.000 moléculas que poderiam servir como agentes de guerra química.
Hoje, as ferramentas de IA podem responder a perguntas sobre quase todas as áreas da ciência, enquanto os avanços na edição de genes e na biologia sintética tornaram as ferramentas de biotecnologia mais acessíveis. Há salvaguardas, mas nenhuma é irrestrita. No entanto, os cientistas discordam da gravidade do risco.
Descubra por que é mais fácil do que nunca projetar patógenos assassinos.
—Jessica Hamzelou
Isto história é do The Checkup, nosso boletim semanal de biotecnologia. Inscreva-se para recebê-lo na sua caixa de entrada todas as quintas-feiras.
O papel do astronauta está em fluxo.
Vamos ao espaço pelo prestígio geopolítico, manifestamos destino, realização espiritual, curiosidade científica e, cada vez mais, oportunidades de negócios. Na esteira de Artemis II, uma série de novos livros sugerem que essas justificativas são subsumidas por um fato unificador: os seres humanos têm coceiras nos pés, e estamos simplesmente ligados a vagar.
In O Efeito Ultraview, a antropóloga espacial Deana L. Weibel enquadra a exploração espacial humana como parte da nossa necessidade de embarcar em peregrinações. In Coração para o espaço, o astronauta civil Eiman Jahangir relata uma dessas viagens com a Origem Azul. E em Jantar com um astronauta, ex-astronauta da NASA Leroy Chiao argumenta que as pessoas simplesmente “precisam saber o que está do outro lado”.
Veja o que esses três novos livros têm a dizer sobre por que vamos para o espaço.
—Becky Ferreira
Esta história é da nossa última revista impressa, que é sobre crianças. Inscreva-se agora para receber todas as edições quando aterrar.
A leitura obrigatória
Vasculhei a internet para encontrar as histórias mais divertidas/importantes/escavadoras/fascinantes sobre tecnologia.
1 Trabalhadores da Microsoft e OpenAI dizem que a IA está destruindo a web
Canibalizar cliques de sites oblitera os modelos de negócios que mantêm o conteúdo fresco vindo. (404 Meios)
+ Os funcionários mostraram preocupação de que os editores não poderiam sobreviver a AI raspando. (NYT $)
+ Os comentários surgiram durante o caso de direitos autorais da NYT. (WP $)
+ Eles poderiam enfraquecer o OpenAI e a defesa da Microsoft. (Reuters $)
+ IA significa o fim da busca na internet como a conhecemos. (MIT Technology Review)
2 Barcos robôs lutaram uns contra os outros pela primeira vez
Um navio ucraniano afundou um russo em combate. (Novo Cientista $)
+ As empresas dos EUA estão construindo humanóides prontos para combate. (WSJ $)
3 Pesquisadores de segurança violaram o OpenAI usando ferramentas da Anthropic
Eles alcançaram a conta ChatGPT de um funcionário e o código interno. (FT $)
+ Eles exploraram um fórum de terceiros para alcançar sistemas internos. (WSJ $)
4 O OpenAI supostamente espera logo resolver outro famoso problema de matemática
Mas, pode evitar outra reação ao anunciá - la? (Informações $)
+ O problema que espera resolver é a Conjectura Hodge. (Gizmodo)
+ As controvérsias matemáticas da OpenAI contêm pistas sobre o futuro do campo. (MIT Technology Review)
5 SpaceXAI do Elon Musk quer comprar dados de startups falhadas
Procura novas fontes de dados de treinamento para Grok. (Bloomberg $
+ E está segmentando os dados do cliente e operacionais. (Gizmodo)
+ OpenAI está pagando para criar novos dados de biologia. (MIT Technology Review)
6 Escolas estão empurrando para trás contra a aquisição de sala de aula da Big Tech
A IA está acelerando as preocupações com a influência corporativa. (New Yorker $)
+ Precisamos usar IA mais inteligente nas escolas. (MIT Technology Review)
7 Hackers têm revelado como câmeras Flock rastreiam carros e pessoas
Uma câmara capturou 1,6 milhões de imagens de 50.000 veículos. (Wired $)
+ As câmeras também detectam pessoas e identificam objetos errados. (404 Meios)
8 empresas chinesas duplicaram a ciência após restrições tecnológicas dos EUA
Eles produziram 72% mais patentes citando artigos científicos. (Natureza)
9 O cancro de uma criança de três anos desapareceu após uma terapia celular experimental
CAR A terapia T pode finalmente ser capaz de tratar tumores sólidos. (Gizmodo)
10 novos robotoilets de NYC vai expulsá-lo após 10 minutos
As portas abrem-se automaticamente quando o temporizador se esgota. (Companhia Rápida)
Citação do dia
“O maior roubo de trabalho da história humana.”
—O diretor de Ciência Aplicada da Microsoft, Brent Hecht, levanta suas preocupações sobre os dados de treinamento usados para sistemas de IA em comentários revelados em arquivamentos judiciais do New York Times vs OpenAI processo de direitos autorais.
Mais uma coisa.
O Observatório Vera C. Rubin está pronto para transformar nossa compreensão do cosmos
Alto no topo do Chile, 2.700 metros Cerro Pachón, o ar é claro e seco, deixando poucas nuvens para bloquear a bela vista das estrelas. É aqui que o Observatório Vera C. Rubin está usando uma câmera digital de 3.200 megapixels, a maior já construída, para produzir um novo mapa de todo o céu noturno a cada três dias.
Gerando 20 terabytes de dados por noite, Rubin capturará detalhes finos sobre o sistema solar, a Via Láctea e a estrutura em grande escala do cosmos. Ao longo de 10 anos, ele catalogará bilhões de novos objetos, oferecendo um olhar sem precedentes sobre o que está mudando no universo.
Entre no observatório mapeando o cosmos de uma forma que nunca vimos antes.
—Adam Mann
Ainda podemos ter coisas bonitas.
Um lugar para conforto, diversão e distração para alegrar seu dia. Tens alguma ideia? Larga-me uma linha..)
+ Sherry o cão tornou-se uma mãe para qualquer gatinho que não tem uma mãe.
+ Estas sete lições de vida do rei do puzzle Will Shortz vão muito além da grade de palavras cruzadas.
+ Ouvir “Stairway to Heaven” em uma luz completamente nova como a antiga música da corte japonesa encontra o rock épico.
+ Confira as imagens deslumbrantes que colheram os melhores prêmios no concurso Fotógrafo de Astronomia do Ano.