El cofundador de Ethereum, Vitalik Buterin, ha expresado su preocupaciĆ³n por los peligros potenciales de los programas de Inteligencia Synthetic (IA) no controlados.
En una publicaciĆ³n del 10 de enero en X, Buterin advirtiĆ³ que la IA mal administrada podrĆa crear entidades inteligentes autorreplicantes que plantean riesgos para la humanidad.
Ćl afirmĆ³:
āLa IA hecha mal es crear nuevas formas de vida inteligente independiente y autorreplicante. La IA bien hecha son trajes mecĆ”nicos para la mente humana. Si hacemos lo primero sin lo segundo, corremos el riesgo de perder permanentemente el poder humano. Si hacemos esto Ćŗltimo, florecerĆ” una civilizaciĆ³n humana superinteligenteā.
ExplicĆ³ que si bien algunos sistemas de inteligencia synthetic, como los chatbots diseƱados para mejorar las interfaces de usuario, son beneficiosos, otros podrĆan generar riesgos importantes. EspecĆficamente, los agentes de IA que funcionan de forma autĆ³noma durante perĆodos prolongados podrĆan eventualmente desafiar el management humano y quitarle poder a la sociedad.
Para mitigar estos riesgos, Buterin propuso centrarse en sistemas de IA que complementen la inteligencia humana, transformƔndolos en herramientas que amplifiquen las capacidades colectivas en lugar de reemplazarlas.
SegĆŗn Ć©l, este enfoque transformarĆa la IA en una poderosa herramienta para mejorar las capacidades humanas evitando riesgos innecesarios.
d/Acc
Una parte importante de su estrategia involucra el concepto de AceleraciĆ³n Defensiva Diferencial Descentralizada y DemocrĆ”tica (d/Acc). Este enfoque enfatiza el desarrollo de herramientas descentralizadas para abordar las amenazas emergentes relacionadas con la IA.
Buterin desarrollĆ³ esta concept en una publicaciĆ³n de weblog reciente, describiendo d/Acc como un marco diseƱado para descentralizar tecnologĆas defensivas. El objetivo es capacitar a las personas y las comunidades para que se protejan de los peligros potenciales que plantean los rĆ”pidos avances de la IA.
Esta estrategia permite una distribuciĆ³n mĆ”s democrĆ”tica del poder tecnolĆ³gico al poner capacidades defensivas en manos de las comunidades. Por ejemplo, los sistemas descentralizados podrĆan monitorear, contrarrestar o incluso neutralizar actividades daƱinas de la IA sin depender del management de arriba hacia abajo por parte de gobiernos o corporaciones.
Buterin explicĆ³ que d/Acc podrĆa servir como salvaguardia en escenarios en los que las tecnologĆas de inteligencia synthetic avanzan de manera impredecible. AdemĆ”s, la democratizaciĆ³n de la defensa garantiza que ninguna entidad pueda dominar o explotar el potencial de la IA avanzada, fomentando un ecosistema tecnolĆ³gico mĆ”s equilibrado y resiliente.
El cofundador de Ethereum tambiĆ©n enfatizĆ³ las responsabilidades Ć©ticas de los desarrolladores en este campo en rĆ”pida evoluciĆ³n. Sostuvo que los enfoques descentralizados como d/Acc mejoran la seguridad colectiva y fomentan la transparencia y la colaboraciĆ³n en el desarrollo de la IA.
Buterin escribiĆ³:
āUna concept que es muy amigable con d/acc es responsabilizar a los propietarios u operadores de cualquier equipo que una IA tome (por ejemplo, mediante piraterĆa) en el proceso de ejecutar alguna acciĆ³n catastrĆ³ficamente daƱina. Esto crearĆa un incentivo muy amplio para trabajar duro para hacer que la infraestructura mundial (especialmente la informĆ”tica y la bio) sea lo mĆ”s segura posibleā.
Mencionado en este artĆculo.
