Encabezamiento

From H+Pedia
Jump to navigation Jump to search
This page is a translated version of the page Wireheading and the translation is 91% complete.
Other languages:
English • ‎español
Wireheading o Estimulación de corriente continua transcraneal es un                                                         
emerging technology mediante el cual se aplica corriente continua al cerebro para afectar la actividad neurológica. Por lo general, tiene la intención de inducir experiencias de placer, generalmente a través de la estimulación directa del centro de recompensa o placer del cerebro de un individuo con corriente eléctrica. También se puede utilizar en un sentido más amplio, para referirse a cualquier tipo de método que produce una forma de "falsa utilidad" al maximizar directamente una buena sensación, pero que no se da cuenta de lo que valoramos.

Tanto en los experimentos mentales como los experimentos de laboratorio. en la estimulación directa del centro de recompensa del cerebro hace que el individuo se sienta feliz. En teoría, conectar cables con una corriente lo suficientemente potente sería la experiencia más placentera imaginable. Existe alguna evidencia de que recompensa es distinta del placer,y que la mayoría de las formas hipotéticas actuales de wireheading solo motivan a una persona a continuar con la experiencia wireheading, no a sentirse feliz. Sin embargo, no parece haber ninguna razón para creer que no se pueda encontrar una forma diferente de wireheading que cree placer subjetivo. La posibilidad de wireheading plantea cuestiones éticas difíciles para those who believe that morality is based on human happinessUna civilización de cabezas de alambre "divirtiéndose" todo el día mientras son alimentados y mantenidos por robots sería un estado de máxima felicidad, pero tal civilización no tendría arte, amor, descubrimiento científico ni ninguna de las otras cosas que los humanos encuentran valiosas.

Si tomamos el wireheading como una forma más general de producir una utilidad falsificada, hay muchos ejemplos de formas de estimular directamente los centros de recompensa y placer del cerebro, sin involucrarse realmente en experiencias valiosas. La cocaína, la heroína, los cigarrillos y los juegos de azar son ejemplos de métodos actuales para lograr directamente el placer o la recompensa, pero muchos pueden considerar que carecen de mucho de lo que valoramos y que son potencialmente extremadamente perjudiciales.Steve Omohundro

argumenta que: argumenta “Una clase importante de vulnerabilidades surge cuando los subsistemas para medir la utilidad se corrompen. El placer humano puede considerarse como el correlato experiencial de una evaluación de alta utilidad. Pero el placer está mediado por neuroquímicos y estos están sujetos a manipulación”.

Wireheading es también una ilustración de las complejidades de crear unFriendly AICualquier AGI ingenuamente programado para aumentar la felicidad humana podría dedicar sus energías a engañar a las personas, posiblemente sin su consentimiento, con preferencia a cualquier otro objetivo. Problemas equivalentes surgen para cualquier simple intento de crear AGI que se preocupen directamente por los sentimientos humanos ("amor", "compasión", "entusiasmo", etc.). Un AGI podría conectar a las personas para que se sientan enamoradas todo el tiempo, pero esto no se daría cuenta correctamente de lo que valoramos cuando decimos que el amor es una virtud. Para Omohundro, debido a que explotar esas vulnerabilidades en nuestros subsistemas para medir la utilidad es mucho más fácil que realmente realizar nuestros valores, un AGI mal diseñado seguramente preferiría conectar a la humanidad en lugar de perseguir los valores humanos. Además, un AGI en sí mismo podría ser vulnerable a wirehead y necesitaría implementar "fuerzas policiales" o "sistemas inmunológicos" para garantizar que su sistema de medición no se corrompa al intentar producir una utilidad falsificada.


Blog posts


Ver también


Enlaces externos