Professor propõe desenvolvimento de software para limitar abusos da inteligência artificial

Hoje, foi revelada a LawZero, uma nova organização sem fins lucrativos liderada pelo professor Yoshua Bengio, um dos pioneiros da inteligência artificial e laureado com o Prémio Turing 2018. A iniciativa surge como resposta ao crescente desafio que os sistemas de IA representam em termos de comportamentos problemáticos.

Bengio alertou para o fato de que “os sistemas mais avançados já estão a demonstrar sinais de autopreservação e engano. Este fenómeno só tende a intensificar-se à medida que a capacidade e a autonomia das inteligências artificiais se expandem.”

A LawZero tem como propósito primordial desenvolver software que possa limitar a forma como a IA utiliza as suas capacidades, evitando potenciais abusos. Além disso, a organização pretende também explorar a criação de inteligências artificiais com um nível de autonomia restrito, focando a sua aplicação na investigação científica.

Com uma equipa de mais de 15 investigadores, a LawZero já recebeu apoio financeiro de várias fontes, incluindo da Schmidt Sciences, uma instituição de solidariedade fundada por Eric Schmidt, ex-CEO da Google, e pela sua esposa, Wendy Schmidt.