Estão tentando proibir a superinteligência artificial?

Cientistas e figuras públicas pedem que o avanço rumo à superinteligência artificial seja interrompido até haver consenso sobre segurança.

[{"selector":"#anim-caebe593-27c9-45f8-a9a8-f5d5e9dd9563","keyframes":{"opacity":[0,1]},"delay":500,"duration":1200,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-bcf5f4f4-1fbb-4ff6-a626-d7205273133b [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(17.301215159168095%, 0, 0)","translate3d(0%, 0, 0)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"both"}]

Entre os signatários estão Geoffrey Hinton, Yoshua Bengio, Steve Wozniak e o casal Harry e Meghan, além de diversos pesquisadores.

[{"selector":"#anim-11c5b036-eae5-4f98-92c9-6d7ac5954e62","keyframes":{"opacity":[0,1]},"delay":500,"duration":1200,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-5ce93f49-f2bd-4058-beae-1e0893907aca [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(0%, 0%) scale(1.5)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}]

O grupo alerta que a superinteligência poderia ultrapassar a capacidade humana em raciocínio, criatividade e decisão.

[{"selector":"#anim-a3f4a6e4-dac7-4658-8464-1c83af27eb97","keyframes":{"opacity":[0,1]},"delay":500,"duration":1200,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-dc8f7e80-55b7-40ad-84f0-5f5e64cae988 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(50.956349088836625%, 0, 0)","translate3d(0%, 0, 0)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"both"}]

Diferente das IAs atuais, ela seria autônoma, capaz de aprender sozinha e evoluir além dos limites definidos por humanos.

[{"selector":"#anim-e1649e1c-fcb7-4eac-8435-95a875d23a25","keyframes":{"opacity":[0,1]},"delay":500,"duration":1200,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-802c7aa6-4132-4961-8461-c0adc5e2fa59 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(40.01753055204825%, 0, 0)","translate3d(0%, 0, 0)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"both"}]

A carta foi divulgada pela organização Future of Life Institute, que defende pausa nas pesquisas até haver controle seguro.

[{"selector":"#anim-032481a8-0d8b-4be2-afc6-49ec63f37b09","keyframes":{"opacity":[0,1]},"delay":500,"duration":1200,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-88a3e595-af1e-4fd1-9070-2bd0018e8279 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(0%, 0%) scale(1.5)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}]

Especialistas alertam que o risco não é uma IA “maligna”, mas uma máquina indiferente aos humanos e com poder sobre-humano.

[{"selector":"#anim-8cdd65c5-fd4e-4dd8-b38c-0a055d7b3598","keyframes":{"opacity":[0,1]},"delay":500,"duration":1200,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-37c7e900-04fe-43ea-adf8-1552daaea111 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(-50.903771527139284%, 0, 0)","translate3d(0%, 0, 0)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"both"}]

Maria-Anne Williams cita um exemplo: uma IA encarregada de acabar com o aquecimento global poderia eliminar a humanidade.

[{"selector":"#anim-bfe9b3c1-6fff-4839-b915-1ad9760cbd44","keyframes":{"opacity":[0,1]},"delay":500,"duration":1200,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-151ba969-4035-45c4-8ca8-2fefa347c4b3 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(30.203862540822012%, 0, 0)","translate3d(0%, 0, 0)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"both"}]

O objetivo, segundo a carta, é garantir que a IA sirva à humanidade e não opere de forma autônoma e incontrolável.

[{"selector":"#anim-e9a20a06-c878-4c75-8281-ccb709b1c046","keyframes":{"opacity":[0,1]},"delay":500,"duration":1200,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-0b11a4db-97dc-4aa2-a9a4-f903655f183c [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(-45.11673187525999%, 0, 0)","translate3d(0%, 0, 0)"]},"delay":0,"duration":2000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"both"}]