O braço sem fins lucrativos da OpenAI revelou seus planos para enfrentar “os problemas mais difíceis da humanidade”.
A OpenAI Foundation anunciou uma ampla gama de objetivos de investimento e pesquisa, desde a construção de salvaguardas em torno de como a IA se comporta na natureza até a promoção de ecossistemas de dados compartilhados e o financiamento de pesquisas sobre doenças.
O roteiro declarado poderia servir como um modelo de como outras organizações abordam o desenvolvimento de modelos e a segurança.
“Ainda estamos no início do que a IA pode tornar possível”, escreveu Bret Taylor, presidente do conselho de administração da OpenAI Foundation, em um blog hoje. “A oportunidade – e a responsabilidade – é garantir que estas tecnologias conduzam a um progresso real para as pessoas.”
Estabelecendo ‘resiliência de IA’
A OpenAI concluiu a sua recapitalização em outubro passado, com a Fundação OpenAI agora detendo participação no negócio com fins lucrativos OpenAI e comprometendo-se a investir 25 mil milhões de dólares em investigação de IA, mil milhões de dólares no próximo ano.
A Fundação está a concentrar-se em “duas dimensões”: os potenciais benefícios significativos da IA na forma como as pessoas trabalham, aprendem e acedem a cuidados médicos; e, por outro lado, os desafios que já surgem à medida que a IA se torna cada vez mais capaz.
A organização sem fins lucrativos chama esta última de “resiliência de IA”.
“O que OpenAI significa é: a IA continuará a atingir a meta que os humanos pretendiam ou falhará de alguma forma?” explicou Brian Jackson, principal diretor de pesquisa do Info-Tech Research Group. “‘Haverá erros que nos farão ficar aquém do objetivo? Ou, pior ainda, haverá considerações de segurança que nos levarão a uma direção errada e acabaremos causando danos quando pretendemos ajudar?'”
Ao promover a resiliência da IA, a Fundação afirma que irá visar três áreas onde as preocupações “já são aparentes”: biossegurança, segurança dos modelos e impacto nas crianças e jovens.
Na biossegurança, a organização sem fins lucrativos trabalhará para melhorar a detecção, prevenção e mitigação de potenciais ameaças biológicas, tanto “que ocorrem naturalmente como viabilizadas pela IA”. Também apoiará testes e avaliações independentes, desenvolverá padrões industriais “novos e mais fortes” e financiará pesquisas para ajudar a detectar precocemente problemas de segurança de modelos de IA ou evitá-los completamente.
Para abordar o impacto da IA nas crianças e nos jovens, a Fundação afirma que investirá em investigação e avaliação baseadas em dados, e identificará e construirá salvaguardas para promover “interacções benéficas”.
Um dos “problemas mais difíceis da humanidade” que a Fundação visa em primeiro lugar são as ciências da vida e a cura de doenças.
“A IA tem um enorme potencial para acelerar o progresso científico e médico para salvar e melhorar vidas”, escreve Taylor. “Os pesquisadores (já) estão usando IA para compreender melhor as doenças, explorar novas maneiras de preveni-las e tratá-las e transferir ideias do laboratório para os pacientes com mais rapidez.”
Três áreas de foco inicial incluirão:
- Dados públicos para a saúde: Sublinhando a importância da partilha de dados científicos, a Fundação ajudará os parceiros a criar e construir “conjuntos de dados abertos e de alta qualidade”, e potencialmente abertos que estavam anteriormente fechados, para apoiar projectos de investigação médica.
- IA para Alzheimer: A doença de Alzheimer é “um dos problemas mais difíceis da medicina”, observa Taylor, mas a capacidade da IA de raciocinar através de dados complexos pode ajudar os investigadores a obter novos conhecimentos. A Fundação fará parceria com instituições de pesquisa para mapear caminhos de doenças, detectar biomarcadores para ensaios clínicos e cuidados e acelerar o tratamento personalizado. O trabalho poderia incluir o reaproveitamento de moléculas existentes aprovadas pela FDA.
- Acelerar o progresso em doenças com elevada mortalidade e carga elevada: A IA pode ajudar a reduzir o custo e o risco de desenvolvimento ou reorientação de terapias para doenças em que a investigação é subfinanciada. A Fundação reunirá investigadores de IA e especialistas em doenças para identificar formas de apoiar os cientistas com ferramentas de IA.
“O que eu gosto nesta declaração da OpenAI é que eles nos deram algumas áreas realmente específicas onde eles acham que farão a diferença”, disse Jackson.
Esses programas médicos específicos são “altamente complexos e especializados”, observou; há uma tonelada de dados de milhões de pessoas afetadas, mas a capacidade limitada de raciocinar sobre esses dados, analisá-los e entendê-los para obter insights sobre diferentes opções de tratamento.
“Eles veem muitos dados. Eles veem essa limitação clara”, observou Jackson. “Essa é uma boa lição que pode ser aplicada do ponto de vista empresarial: onde você tem muitos dados, mas não tem muita largura de banda para fazer o raciocínio?”
Priorizando projetos de IA, compartilhando dados com sabedoria
Existem algumas conclusões importantes para as empresas, disse Jackson, nomeadamente que a OpenAI está a criar um exemplo para outras organizações que lutam para priorizar projetos de IA. Devem concentrar-se nas áreas onde podem causar o maior impacto.
“Muitas empresas ainda dizem: ‘Onde obtemos o retorno do investimento em IA e como nos organizamos para garantir que estamos focados em aproveitar a IA para obter o melhor valor possível?’”, observou ele.
Os líderes de TI também podem ver isso como uma estrutura para práticas seguras de IA. Jackson destacou a maneira como a Fundação está procurando construir uma “cultura de dados” e compartilhar conhecimento especializado para “os dados mais compartilháveis e valiosos que você puder obter”.
“Qual é a melhor maneira para todos esses diferentes esforços de pesquisa revelarem seus dados para que a IA possa aprender com eles?” ele perguntou.
É um desenvolvimento importante com o qual as empresas podem aprender, especialmente em ambientes legados que ainda mantêm uma mentalidade de “não partilhar os seus dados”, observou Jackson. As empresas ainda estão isoladas ou protegem seus dados e muitas vezes não os analisam de forma holística, mesmo entre departamentos internos.
No entanto, “quando reunimos os nossos diferentes conhecimentos especializados, criamos um valor que é maior do que a soma das suas partes”, disse ele. A mentalidade da Fundação é: “estamos criando um ecossistema seguro onde podemos compartilhar dados e todos podemos nos beneficiar deles”.
Fonte: Computer World
