- Vitalik Buterin advierte contra la IA autorreplicante y promueve tecnologías de aumento humano.
El juicio humano destilado ofrece una forma más barata y en tiempo real de tomar decisiones colectivas.
Buterin apoya la IA que mejora la agencia humana, no la reemplaza, como los chatbots que mejoran las tareas.
Vitalik Buterin, cofundador de Ethereum, compartió sus pensamientos sobre la inteligencia artificial (IA) en X. Habló sobre cómo se está desarrollando la IA y lo que significa para la humanidad. Señaló la diferencia entre la IA hecha «mal» y la IA hecha «bien».
Advirtió contra la creación de sistemas de IA independientes y autorreplicantes que podrían conducir a la pérdida de poder humano. En su lugar, sugirió combinar la IA con el juicio humano y la toma de decisiones colectiva.
Comparó la IA con los trajes mecha, herramientas poderosas que mejoran la inteligencia humana y la toma de decisiones. Sin embargo, trazó una línea en los sistemas de IA autónomos y autorreplicantes, advirtiendo de los peligros que plantean.
Según Buterin, estos sistemas de IA podrían correr el riesgo de una «pérdida permanente de poder humano», dejando a los humanos con poco control sobre la tecnología que crean.
Juicio Humano Destilado: La Toma de Decisiones Colectiva
Buterin también habló de «destilar el juicio humano» para hacer más eficiente la toma de decisiones colectivas.
Se refirió a una idea del economista Robin Hanson. Básicamente, un mecanismo de juicio humano confiable y de alto costo se copia más barato y más rápido. En este modelo, las decisiones no son tomadas directamente por los humanos, sino por un mercado de predicciones.
En la práctica, Buterin señaló que las personas usarían un mercado de predicción cada vez que necesiten tomar una decisión. El mercado permitiría a los participantes predecir el resultado de la decisión si los humanos la tomaran.
El debate sobre la IA agentica
En respuesta al creciente debate sobre el papel de la IA en la toma de decisiones, Emad, ex director ejecutivo de Stability AI, señaló el contraste entre la IA agentiva y el aumento de la agencia humana a través de las opciones de diseño.
Buterin respondió explicando su punto de vista sobre los «agentes». Habló sobre la diferencia entre la IA que hace planes complejos sin intervención humana y las formas más simples de IA, como los chatbots, que pueden reemplazar las interfaces gráficas de usuario (GUI) para hacer que las tareas cotidianas sean más eficientes.
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
