Leyes de la robótica

Avatar de Usuario
Siflun
Moderador global
Mensajes: 1692
Registrado: 12 Oct 2010, 22:46
Ubicación: Sevilla

Leyes de la robótica

Mensaje por Siflun »

1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley

Vamos a mejorarlas. ¿Qué fallos pueden tener? El propio Asimov señaló algunos de ellos, como la posibilidad de que un robot sobreprotegiese asfixiantemente a un ser humano, o le mintiese para no dañarle emocionalmente.

Yo propongo cambiar la primera y la segunda ley para solucionar estos problemas. En cierto modo, se reforzaría la segunda ley en detrimento de la primera:

1. Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor.
2. Un robot siempre obedecerá a un humano salvo que atente contra la 1ª Ley en su aplicación a terceras personas.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley
Avatar de Usuario
Lux
Moderador global
Mensajes: 3113
Registrado: 05 Dic 2010, 19:34

Re: Leyes de la robótica

Mensaje por Lux »

No veo mucha modificación :?
Buscando el mundo de la claridad. Tan nimio y tan enloquecedor.
Avatar de Usuario
Sajuuk_
Mensajes: 1938
Registrado: 15 Feb 2011, 22:41

Re: Leyes de la robótica

Mensaje por Sajuuk_ »

Siflun escribió:1. Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor.
Acabas de conseguir que los robots eutanicen a todos los seres humanos, ipso facto, dando una muerte indolora para evitar todo el posible dolor que puedan sufrir en su vida y que ciertamente será mayor que cero.
Siflun escribió:2. Un robot siempre obedecerá a un humano salvo que atente contra la 1ª Ley en su aplicación a terceras personas.
Perdónales, porque no saben lo que dicen. La persona debería estar en pleno uso de sus facultades mentales, la gente es capaz de decir muchas tonterías.
Siflun escribió:3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley
Poco ambiciosa.

Propongo otras, un robot:
  1. respetará los derechos de los seres humanos
  2. potenciará las capacidades de los seres humanos en su libertad
  3. respetará la voluntad de los seres humanos y la seguirá en la medida de lo posible
  4. procurará ampliar la duración y calidad de vida de los seres humanos, siendo la calidad de vida subjetiva y dependiente de cada ser humano. En ningún caso la disminuirá.
  5. procurará prolongar su existencia
  6. procurará aumentar su conocimiento del mundo
  7. procurará aumentar su capacidad de actuación
Estas son unas reglas no de restricciones sino de optimización, ordenadas de más a menos prioritarias, siendo no intercambiables.
Gott weiß ich will kein Engel sein
Avatar de Usuario
WolfAustral
Mensajes: 1454
Registrado: 13 Oct 2010, 20:39
Rango personalizado: Lider Austral
Contactar:

Re: Leyes de la robótica

Mensaje por WolfAustral »

Sajuuk_ escribió:Acabas de conseguir que los robots eutanicen a todos los seres humanos, ipso facto, dando una muerte indolora para evitar todo el posible dolor que puedan sufrir en su vida y que ciertamente será mayor que cero.
¡Exactamente! ¿Confiarías en el buen criterio del robot para saber cuándo tiene que hacer daño y cuándo no?

Yo reemplazaría éste:
1. Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor.
Por éste:
1. Un robot nunca hará daño (punto).
---------------------------
Sajuuk_ escribió:
  1. respetará los derechos de los seres humanos
  2. potenciará las capacidades de los seres humanos en su libertad
  3. respetará la voluntad de los seres humanos y la seguirá en la medida de lo posible
  4. procurará ampliar la duración y calidad de vida de los seres humanos, siendo la calidad de vida subjetiva y dependiente de cada ser humano. En ningún caso la disminuirá.
  5. procurará prolongar su existencia
  6. procurará aumentar su conocimiento del mundo
  7. procurará aumentar su capacidad de actuación
Yo aplicaría todo eso a los humanos en las escuelas :lol:, si lográramos grabarselos en la cabeza sin que haya forma de que puedan quitárselo ni contradecirlo, el mundo sería un lugar mejor.

Respecto a las leyes de la robótica, yo miraría primero, ¿cuáles son los objetivos generales de los robots? ¿cuál es el "por qué" del robot?

¿Trabajar? ¿Ser autónomos y autosuficientes? ¿Parecerse a los humanos? ¿Ayudar a los humanos (¿como?)? ¿Ser guardias de seguridad / policías? ¿Políticos? (esto último iba en broma, pero sería interesante: si pudiese evitarse la corrupción mediante un programa yo votaría al robot por sobre cualquier persona :lol: )

Si el objetivo fuera parecerse a los humanos, ya sea en la forma de pensar, de verse, de actuar, etc... que veo que es en lo que va orientado muchas veces la cosa, pues yo destruiría los robots, no necesitamos imitaciones humanas de metal.

Pero si fuera por ejemplo servir de seguridad, o ayudar para tal o cual trabajo, habría que ver qué función va a cumplir para poder ver qué reglas sería mejor asignarles.
Avatar de Usuario
Siflun
Moderador global
Mensajes: 1692
Registrado: 12 Oct 2010, 22:46
Ubicación: Sevilla

Re: Leyes de la robótica

Mensaje por Siflun »

Sajuuk_ escribió:
Siflun escribió:1. Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor.
Acabas de conseguir que los robots eutanicen a todos los seres humanos, ipso facto, dando una muerte indolora para evitar todo el posible dolor que puedan sufrir en su vida y que ciertamente será mayor que cero.
No me refería a dolor sino a daño fisico. La muerte es el daño a la integridad física más grande que existe así que no creo que te eutanice.
Wolf Austral escribió:1. Un robot nunca hará daño (punto).
Pero esque entonces, si tiene que empujarte para que un coche no te atropelle, no podrá hacerlo, porque te hará daño al tirarte al suelo. No podría hacer absolutamente nada.
Sajuuk_ escribió:
Siflun escribió:2. Un robot siempre obedecerá a un humano salvo que atente contra la 1ª Ley en su aplicación a terceras personas.
Perdónales, porque no saben lo que dicen. La persona debería estar en pleno uso de sus facultades mentales, la gente es capaz de decir muchas tonterías.
Esque si no no hay manera de suicidarse xD. Un robot debería ser una herramienta con la que poder hacer lo que quieras siempre que no dañe a los demás. Cuando compras un cuchillo no te hacen un test mental.
Sajuuk_ escribió:
Siflun escribió:3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley
Poco ambiciosa.
Incluye todas esas:
Sajuuk_ escribió:[*] procurará prolongar su existencia
[*] procurará aumentar su conocimiento del mundo
[*] procurará aumentar su capacidad de actuación[/list]
¿Para qué liarlo tanto? Cuantas menos mejor creo.
Sajuuk_ escribió:respetará los derechos de los seres humanos
¿Qué derechos?
Sajuuk_ escribió:potenciará las capacidades de los seres humanos en su libertad
Queda incluído en esto:
Sajuuk_ escribió:procurará ampliar la duración y calidad de vida de los seres humanos, siendo la calidad de vida subjetiva y dependiente de cada ser humano. En ningún caso la disminuirá.
Pero ¿No les da eso un papel demasiado activo? No quiero que un robot se vea obligado a intentar meterse en política. Incluso manipulando a la gente para que le den su aprobación y así respetar aquello de "en su libertad".
Sajuuk_ escribió: respetará la voluntad de los seres humanos y la seguirá en la medida de lo posible
Si, eso es lo mismo que la segunda ley.
wakisneu
Mensajes: 171
Registrado: 12 Ene 2011, 15:54

Re: Leyes de la robótica

Mensaje por wakisneu »

Si habéis acabado de leer la saga de libros de Asimov, Fundación...debéis tener el cuenta la Ley Cero de la Robótica. Esa sería la primera ley de todas, aunque a mí no me convence para nada.

Saludos.
Avatar de Usuario
Luxfero
Mensajes: 1963
Registrado: 17 Dic 2010, 08:14

Re: Leyes de la robótica

Mensaje por Luxfero »

Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor
para elegir entre A o B, se debe de saber LO QUE ES MEJOR, y esto es el bien.

si un robot conociera lo que es el bien, seria un dios. pues, ¿no fue eso lo que le prometio la serpiente a adan y a eva: el conocimeinto del bien?


ademas, lo que es bueno para uno, lo es tambien para el resto?
Avatar de Usuario
Siflun
Moderador global
Mensajes: 1692
Registrado: 12 Oct 2010, 22:46
Ubicación: Sevilla

Re: Leyes de la robótica

Mensaje por Siflun »

No es muy difícil saber lo que es el "Bien" en cuanto a la integridad física de una persona. :?

Y Wakisneu, a mi tampoco me convence la ley 0. Pienso que le da un papel demasiado activo a los robots y termina pasando lo que pasa... Quiero que el ser humano sea su propio dueño.
Avatar de Usuario
Luxfero
Mensajes: 1963
Registrado: 17 Dic 2010, 08:14

Re: Leyes de la robótica

Mensaje por Luxfero »

Un robot nunca hará daño físico a un ser humano salvo para evitarle otro mayor
No es muy difícil saber lo que es el "Bien" en cuanto a la integridad física de una persona.

tu crees que no es muy dificil, pero no se conoce completamente el cuerpo humano y su funcionamiento. ¿como saber cual es el estado optimo, cuando no se conoce el sistema completo? le atribuyes conocimeitnos a un robot que aun no se poseen y que es posible que pasen cientos de años antes de que se conozcan por completo. la mente por ejemplo, es casi desconocida para nosotros. asi, que implicaciones fisicas puede tener un estado emocional, o vice versa? sabemos que existe una correlacion, pero no la entendemos por completo.

la tesis es que el bien fisico no puede ser separado del bien emocional, formando juntos lo que conocemos por EL BEIN. eso es lo que nos demuestra la evidencia hasta el momento.
Avatar de Usuario
Siflun
Moderador global
Mensajes: 1692
Registrado: 12 Oct 2010, 22:46
Ubicación: Sevilla

Re: Leyes de la robótica

Mensaje por Siflun »

Supongo que cuando hagan robots con estas características ya conocerán perfectamente el cuerpo humano.
De todas formas se le pide que no haga daño directamente, que no le pegue o le mate, no que le cure con el tratamiento optimo de ninguna enfermedad.

Y mejor especificar "daño físico" porque no me gustaría que se metiesen a analizar nuestras emociones o a manejar nuestra vida emocional.
Responder