Vitalik: Temor a la AGI y ASI, apoya la creación de herramientas que mejoren la inteligencia humana en lugar de crear vida superinteligente

El 22 de diciembre, en respuesta a los recientes desarrollos de productos relacionados con AGI en el campo de OpenAI y la IA, el fundador de Ethereum, Vitalik Buterin, publicó en la plataforma X diciendo: "Mi definición de AGI (Inteligencia General Artificial) es: AGI es una inteligencia artificial lo suficientemente poderosa que si un día todos los humanos desaparecieran repentinamente y esta IA se cargara en un cuerpo robótico, sería capaz de continuar la civilización de manera independiente.

Obviamente, esta es una definición muy difícil de medir, pero creo que esta es exactamente la diferencia intuitiva central entre 'la IA a la que estamos acostumbrados' y 'AGI' en la mente de muchas personas. Marca la transición de una herramienta que constantemente depende de la entrada humana a una forma de vida autosuficiente. ASI (Inteligencia Super Artificial) es un asunto completamente diferente: mi definición es cuando los humanos ya no agregan valor a la productividad en el ciclo (al igual que en los juegos de ajedrez, donde solo hemos llegado a este punto en la última década).

Sí, ASI me asusta, incluso mi definida AGI me asusta porque trae riesgos evidentes de perder el control. Apoyo centrar nuestro trabajo en construir herramientas de mejora inteligente para los humanos en lugar de construir formas de vida superinteligentes."