De la tecnología a la ética: experiencias del siglo veinte, posibilidades del siglo veintiuno *

Carl Mitcham (cmitcham@mines.edu)
Colorado School of Mines, University of Colorado at Boulder, Estados Unidos

En este artículo el autor recorre la experiencia de la tecnología en el siglo veinte. A partir de este contexto plantea las cuestiones tecnoéticas resultantes. Por otro lado, examina las respuestas prácticas a estas cuestiones surgidas tanto en la comunidad científica y profesional como en el proceso de toma de decisiones de política pública. Finalmente, reflexiona sobre las respuestas filosóficas a los desafíos éticos planteados por la tecnología y sitúa los límites de estas reflexiones.

Palabras clave: Tecnología; Ética; Deshumanización; Consecuencialismo; Deontologismo.

In this article the author covers the experience of technology along the twentieth century. Having this context as a background, he settles the resulting technoethical questions. On the other hand, he examines different practical answers to this questions arising from the scientific and professional community and the process public policy decision making. Finally, he reflects on the philosophical answers to the ethical challenges posed by technology and, at the same time, he situates the limits concerning these reflections.

Key words: Technology; Ethics; Dehumanization; Consequentialis; Deontologism.

En retrospectiva, se puede evocar la experiencia de la tecnología en el siglo veinte desde la perspectiva de un historiador:

- Primeras tres décadas: creaciones mecánicas, químicas y eléctricas de automóviles, aviones, materiales sintéticos, drogas, radios y películas cinematográficas.

- Décadas intermedias: dominadas por invenciones de la física, tales como las armas nucleares y los vuelos espaciales.

- Últimas tres décadas: diseños electrónicos y biológicos de computadoras e ingeniería genética.

Sin embargo, más importantes que tales productos, procesos y sistemas fueron los múltiples impactos e influencias sociales, que abarcaron desde lo económico y cultural hasta lo legal y político -desde nuevas formas de producción y consumo hasta el desarrollo de diferentes regulaciones y agencias gubernamentales. No obstante, tras todas estas respuestas -e incluso tras el reclamo inicial de las propias tecnologías- nos encontramos con diversos compromisos ético-culturales.

Desde sus orígenes en el siglo dieciséis, el trascendental compromiso cultural con formas modernas de creación y uso se basaba en una concepción de la tecnología entendida como medio para alcanzar el bien -si no en sí mismo, una forma del bien. En los comienzos del siglo veinte, por caso, Leo Baekeland, creador de la baquelita, resumió la valoración moral preponderante acerca de la tecnología como un hacer "más por el mejoramiento de la raza que todo el arte, todos los esfuerzos civilizatorios, toda la denominada literatura clásica" (Baekeland, 1910). La primera mitad del siglo veinte buscó ampliar la que ha sido llamada "una segunda creación del mundo", transformando tecnológicamente la realidad, desde algo a lo cual los seres humanos se adaptaban, a algo que diseñaban a su propia imagen. La principal justificación ética de la tecnología moderna a lo largo del siglo fue la conquista de la naturaleza y la promoción de la humanización como búsqueda de la libertad.

Durante la segunda mitad del siglo, sin embargo, el nuevo mundo tecnológico pasó a ser reconocido como algo que requería sus propias adaptaciones. Las libertades no eran, ellas mismas, siempre libres. Un representante clave de ello fue el sociólogo de inspiración filosófica Jacques Ellul, cuya obra La Technique ou l'enjeu du siècle (1954) interpretaba la tecnología como un nuevo tipo de coacción sobre la condición humana. De este modo, aunque el siglo veinte se inició con una fe casi incondicional en la probidad moral de la tecnología, la última parte del siglo fue testigo de la emergencia, incluso dentro de la comunidad tecnocientífica, de una serie de preguntas dirigidas al humanismo tecnológico.

Deshumanización y ética

Un poderoso argumento de esta crítica sostenía que el cambio tecnológico fomentaba una forma de deshumanización, en la medida en que separaba a los seres humanos de la naturaleza y la tradición, y subordinaba la rica variedad de la experiencia humana a los cálculos del racionalismo instrumental. Una articulación especialmente influyente de la tecnología como deshumanizante, heredada del siglo diecinueve, se concentraba en la cuestión de la alienación en la manufactura. Para Karl Marx, la alienación se definía limitadamente en términos de la pérdida de control por parte de los trabajadores sobre los procesos y los productos de su trabajo, pérdida respaldada por las divisiones racionalistas del trabajo y la industrialización en gran escala.

La división del trabajo, sin embargo, es sólo un caso especial de los fenómenos de la tecnología desarraigada o arrancada de la cultura. Antes del período moderno, las técnicas estaban insertas en un mundo de la vida humano, esto es, plagado de instituciones basadas en convenciones y contra-convenciones. En la agricultura, el principal sector de empleo antes del siglo veinte, la siembra y la cosecha de los cultivos, la matanza de animales y el consumo de alimentos estaban insertos en -esto es, eran parte de- antiquísimos rituales y tabúes religiosos y culturales.

No es correcto, siquiera, describir la relación tradicional como la de fines culturales que orientan los medios técnicos, pues la distinción entre medios y fines estaba manifiestamente ausente en la trama de la vida premoderna. Cada actividad humana estaba plegada sobre o implicada en otras. No obstante, con la producción industrial la trama se destejió, de manera que las distinciones entre medios y fines fueron puestas en cuestión, y la tecnología como medio fue separada de cualquier fin particular, con el objeto de que avanzara y se desarrollara por su propia cuenta en un grado sin precedentes. El resultado es lo que el sociólogo William Fielding Ogburn (1922) denominó "desfase cultural" (culture lag), aquello que tiene lugar cuando los modos de vida avanzan para ponerse al día con la irrupción de nuevos productos y procesos que se introducen en la experiencia humana. La "pérdida de control", como a menudo se la siente, de los intentos humanos por "controlar la naturaleza" es una expresión adicional de este desarraigo, y del impulso básico que llama a la reflexión ética acerca de los nuevos medios puestos a disposición de una plétora de intenciones y deseos humanos liberados de las restricciones tradicionales.

La crítica ética de tan masivas dislocaciones culturales permaneció en una posición más o menos marginal hasta que la invención de las armas nucleares encendió la vaga inquietud característica de los intelectuales conservadores y situó la ética de una tecnología específica a la vanguardia del discurso público. Luego de Hiroshima y Nagasaki, muchos científicos e ingenieros encontraron sus intuiciones viscerales expresadas en la voz de J. Robert Oppenheimer, el ingeniero en jefe del programa de armas atómicas, cuando dijo que "en alguna clase de crudo sentido que ninguna vulgaridad, ningún humor, ninguna exageración puede extinguir del todo, los físicos han conocido el pecado". (Otros reclamaron violentamente que Oppenheimer no tenía el derecho de golpearse públicamente el pecho por ellos). Albert Einstein resumió la situación en palabras menos religiosas pero ciertamente igual de dramáticas: "la bomba (…) y otros descubrimientos nos sitúan ante (…) un problema no de física, sino de ética".

La Segunda Guerra Mundial, asimismo, confrontó a la comunidad humana con casos en los que aun las tecnociencias más humanitarias, las asociadas con la medicina y su ethos profesional de atención, habían sido deformadas y corrompidas por una subordinación irreflexiva a las agendas políticas de fondo. Los médicos alemanes y japoneses investigaron en medicina con pacientes hasta el punto de ejercer formas de tortura, al tiempo que desarrollaban armas químicas y biológicas con el fin de utilizarlas contra no combatientes y combatientes por igual. Como resultado, el Tribunal de Crímenes de Guerra de Nuremberg buscó establecer pautas nuevas y más estrictas para la realización de experimentos médicos con sujetos humanos, de modo que el consentimiento libre e informado fuera un requisito fundamental y se aplicara el principio de la justicia distributiva para los beneficios que surgieran de tales investigaciones. Estudios posteriores revelaron experimentos médicos inmorales no sólo entre los enemigos de la democracia, sino también dentro de los propios regímenes democráticos: he ahí el caso de los tratamientos médicos reservados sólo para las minorías, o el de los experimentos de Tuskegee con afroamericanos afectados de sífilis; o los casos de soldados y ciudadanos expuestos a dosis nocivas de radiación, tal y como ocurrió con las pruebas nucleares en Nevada y el Pacífico Sur, todos ellos en el nombre de la producción de conocimiento tecnocientífico y/o la defensa nacional.

- En efecto, en las cinco décadas posteriores a la Segunda Guerra Mundial se puede identificar una serie de discusiones éticas, a menudo iniciadas por tecnocientíficos que intentaban crear culturas de contención adecuadas para los nuevos poderes tecnológicos:

- En la década de los cincuenta, el debate ético sobre pruebas con armas nucleares dio lugar al Tratado de Limitación de Pruebas Nucleares (1963) y abrió las puertas a discusiones posteriores acerca de la ética de las políticas de disuasión nuclear.

- En los años cincuenta y sesenta, los desarrollos en materia de informática generaron preguntas acerca de la singularidad del pensamiento humano. La inteligencia artificial se comenzó a usar como modelo de la cognición humana, lo cual dio origen a cuestiones no sólo ontológicas, sino también éticas.

- En los sesenta, la obra Silent Spring (1962),¹ de la bióloga Rachel Carson, mostró claramente la capacidad destructora del uso excesivo de pesticidas -esto último condujo al establecimiento en Estados Unidos de lo que se convertiría en un organismo gubernamental con influencia internacional, la Environmental Protection Agency (1970). Argumentos posteriores a favor de renovar la valoración del mundo natural, basados tanto en motivos antropocéntricos como no antropocéntricos, inspiraron todo un nuevo discurso disciplinario acerca de la ética ambiental, y finalmente la idea de una Carta Mundial de la Naturaleza (1984).

- Durante la década del setenta, los temas de salud ambiental se sumaron a cuestiones acerca de cómo asignar equitativamente tratamientos médicos costosos y aparatos de alta tecnología para crear, en un diálogo entre profesionales biomédicos y especialistas en ética, el campo de la ética biomédica o bioética. Las cuestiones relativas a la seguridad de los primeros organismos genéticamente modificados provocaron que los ingenieros genéticos adoptaran, a comienzos de la década, una moratoria voluntaria y mundial sobre esta tecnología, a fin de establecer protocolos adecuados para su desarrollo seguro.

- Los años ochenta vieron en Estados Unidos un enérgico debate acerca de la confiabilidad de las tecnologías propuestas para crear una defensa misilística nacional, así como la emergencia de preocupaciones referidas a la seguridad y la privacidad en lo que hace a la informática y las tecnologías de la información.

- En la década del noventa fueron tópicos tales como la pérdida de la biodiversidad, el cambio climático global y la clonación reproductiva los que se convirtieron en los principales focos de atención del debate y la discusión ética.

Respuestas prácticas

Las respuestas prácticas a esta gama de cuestiones tecnoéticas se pueden encontrar tanto en la comunidad científica y técnica profesional como en el proceso de toma de decisiones de política pública. Una de las características más notables de las profesiones técnicas del siglo veinte es el esfuerzo por formular códigos de ética capaces de orientar a sus miembros ante una gran cantidad de dilemas éticos potenciales. No sólo la profesión médica ha refinado progresivamente sus pautas éticas para el tratamiento de pacientes, sino que también los ingenieros han formulado códigos que se sitúan mucho más allá de la promoción de la lealtad corporativa o los intereses profesionales.

En el comienzo del siglo no existían códigos explícitos de ética ingenieril. Cuando tales códigos fueron formulados por primera vez, en la década de 1910, ponían énfasis en las responsabilidades para los empleadores y los clientes. Hacia fines del siglo veinte, sin embargo, era habitual que los códigos de ética en ingeniería estimularan a sus miembros a otorgar una importancia primordial a "la seguridad, la salud y el bienestar del público" en la ejecución de sus tareas técnicas e, incluso, a educar al público acerca de los riesgos y los beneficios de los proyectos de ingeniería.

Estimulados en parte por un número de prominentes desastres ingenieriles, tales como los accidentes nucleares de Three-Mile Island (1979) y Chernobyl (1986), la explosión de la planta química de Union Carbide en Bhopal, India (1984), y la pérdida del trasbordador espacial Challenger (1986), los profesionales de la ingeniería también buscaron formas creativas de educar y de hacer cumplir sus nuevos códigos, apoyar a quienes delatan la existencia de prácticas perjudiciales o incorrectas dentro de sus organizaciones y atraer al público para el establecimiento de instituciones adecuadas para el monitoreo y la regulación de la tecnología. La Comisión de Acreditación para la Ingeniería y la Tecnología (ABET, por sus siglas en inglés) reclamó la inclusión de la ética ingenieril dentro de los planes de estudio de ingeniería, y el Institute for Electrical and Electronic Engineers (IEEE), la mayor asociación de ingeniería profesional del mundo, creó un galardón ocasional al Servicio Destacado en Interés Público. La American Association for the Advancement of Science (AAAS), la mayor sociedad científica interdisciplinaria del mundo, estableció asimismo un comité permanente de "Libertad y Responsabilidad Científica", que otorga un premio anual y trabaja para comprometer a la ciencia en la protección de los derechos humanos.

Los años ochenta también fueron testigos de una serie de casos de conducta inadecuada, especialmente en la investigación biomédica financiada con recursos públicos. Ello dio como resultado un conjunto decidido de esfuerzos legislativos e institucionales por desarrollar pautas más claras para una conducta responsable de los investigadores en áreas tales como el almacenamiento de registros científicos, la autoría y la revisión por pares, el tratamiento de animales de laboratorio, los conflictos de intereses y los derechos de propiedad intelectual. En Estados Unidos, los National Institutes of Health, principal organismo de financiamiento de la investigación biomédica, comenzó a exigir educación ética para todos los estudiantes de postgrado y consejos especiales de científicos y no científicos para aprobar todos los protocolos de investigación que involucren a participantes humanos.

Uno de los acuerdos entre todos estos niveles de respuesta profesional y política a los desafíos éticos de la tecnología consistió en abandonar cualquier actitud de estricto laissez faire acerca de si y cómo los nuevos poderes de la medicina tecnológica y la tecnología científica podrían ser utilizados correctamente. Dentro de la comunidad técnica surgió un consenso para intentar evitar el determinismo, tanto tecnocientífico como de mercado, en el cual las cosas eran hechas y usadas simplemente porque podían ser hechas y usadas. La creencia básica era que el poder tecnológico aumentado y extendido reclamaba una práctica aumentada y extendida de consentimiento democrático informado en un mundo que efectivamente se estaba convirtiendo en un experimento sociotécnico gigantesco. Como Kristin Shrader-Frechette (1991) afirmó detenidamente, en la medida en que el despliegue de tecnologías se constituya en experimentación social, se requiere la participación pública. Sin embargo, no basta con la participación pública solamente. La inteligencia democrática depende de algo más que de un acople efectivo del desarrollo tecnológico a los deseos o valores públicos; exige, asimismo, de insights éticos para ayudar a aquélla a tomar decisiones informadas e inteligentes acerca de qué tecnologías aceptar, cuáles modificar y cuáles rechazar.

Respuestas teóricas

La respuesta filosófica que apuntaba a acrecentar el tipo de insight necesario para enfrentarse con una maraña de desafíos éticos en torno a las armas nucleares, la ingeniería química, la medicina de alta tecnología, la informática, el cambio climático y la biotecnología avanzó por dos vías. Por un lado, se intentó realizar una valoración global u holística de la tecnología moderna como un modo de transformación de la condición humana. Aquí, la obra de pensadores del siglo veinte tales como José Ortega y Gasset (1883-1955), Martin Heidegger (1889-1976) y Hans Jonas (1903-1993) sirvió como ejemplo principal. Jonas, por caso, afirmaba que "la tecnología moderna ha introducido una escala, unos objetos y unas consecuencias tan novedosas que el marco de la antigua ética ya no puede contenerlas" (Jonas, 1984: 6). Desde esta perspectiva, "ninguna ética previa tenía que considerar la condición global de la vida humana, el futuro distante, ni la existencia de la raza. Estos son temas que ahora demandan (…) una nueva concepción de obligaciones y derechos, para los cuales la ética previa (…) no proveía siquiera los principios" (ídem: 8). Como respuesta, Jonas propuso una "heurística del miedo" para acentuar la imaginación acerca de los peores escenarios y, de este modo, introducir una modestia cautelosa dentro del dinamismo de la tecnología moderna.

Una realización política de tal modestia quedó ilustrada con la adopción, por parte de la Unión Europea, del principio precautorio: esencialmente, la concepción de que una nueva tecnología ya no debe ser considerada inocente hasta que se pruebe que es culpable (la posición modernista clásica), sino peligrosa hasta que se pruebe que es segura. La debilidad de esta postura global, sin embargo, es que permanecía enfrentada con el ethos imperante de entusiasmo por la tecnología aún emergente en otras partes del mercado mundial, era difícil de implementar en una sociedad pluralista y estaba separada de cualquier resto de las formas de vida tradicionales que podrían haberla apoyado realmente. Además, en los debates políticos concretos es difícil saber cuán seguro es lo bastante seguro.

La otra vía apuntaba a un tratamiento de los problemas de a uno por vez, respondiendo a ellos de un modo menos sistemático y más pragmático, adaptando formas previas de análisis y reflexión ética. Los principales marcos éticos modernos son conocidos como consecuencialismo y deontologismo. En la ética consecuencialista, la corrección o incorrección de la acción depende de la bondad o la maldad de sus consecuencias o resultados (el utilitarismo de John Stuart Mill es un ejemplo). En la ética deontológica, la corrección o incorrección son percibidas como valores independientes de ciertas acciones (el imperativo categórico de Immanuel Kant es el arquetipo). Por caso, un deontologista podría afirmar que el respeto por la autonomía y la dignidad humanas demanda sin excepción el consentimiento libre e informado de todos los participantes de la investigación sobre humanos, incluso si esto pudiera comprometer una investigación que tiene una buena opción de desarrollar terapias benéficas. Por el contrario, un consecuencialista atendería los casos particulares e insistiría en que el consentimiento informado se justificara sobre la base de los buenos resultados. En ambos marcos se realizaron esfuerzos para comprender consecuencias y articular derechos, de modo que se abarcaran mejor los poderes de la tecnología en avance -si bien no siempre con éxito.

La propuesta más común a fines del siglo veinte para mejorar al consecuencialismo se centró en el análisis de riesgo-costo-beneficio. El problema para el consecuencialismo es la preponderancia de consecuencias no buscadas y riesgos complejos, especialmente aquellos de baja probabilidad y alta magnitud de daños (tales como los desastres nucleares), o incertidumbres epistemológicas (tales como las dimensiones antropogénicas del cambio climático global). La existencia de tales debilidades cognitivas llevó a David Collingridge (1980) a describir lo que llamó la paradoja del control social de la tecnología: en las primeras etapas de una tecnología, cuando sería relativamente fácil modificar su desarrollo, raramente poseemos el conocimiento como para tomar decisiones racionales; en el momento en que tenemos más experiencia y una mejor comprensión de sus consecuencias y riesgos, el momentum tecnológico ha hecho que el control sea difícil, si no imposible. Esta paradoja sugiere la necesidad de desarrollar instituciones sociales dedicadas a una evaluación proactiva de la tecnología y, siempre que sea posible, a la elección de las tecnologías más flexibles por sobre las menos flexibles.

Con respecto al deontologismo, ha habido un esfuerzo constante para aislar unos pocos principios delimitantes firmes, como la obligación de procurar el consentimiento informado para cualquier experimentación sobre sujetos humanos. El problema es que en una democracia tecnocientífica y pluralista todos los principios fundamentales tienden a descansar sobre un consenso público minimalista más que sobre un insight razonado -un hecho que tiende a promover el cabildeo o las intrigas. Bajo tales circunstancias, los delimitantes deontológicos se restringen a cuestiones de procedimiento, no tanto a cuestiones sustantivas, e incluso su tema se somete a modificaciones por parte de una opinión pública fuerte. En el último cuarto del siglo veinte, por caso, una prohibición deontológica sobre el uso de drogas no probadas fue desautorizada por activistas del SIDA que demandaban tratamiento.

Nuevas opciones

A pesar de las limitaciones, tanto prácticas como teóricas, de las respuestas a los retos éticos que la tecnología plantea, resulta justo describir el siglo veintiuno como el siglo que ha comenzado con una nueva idea de la relación entre tecnología y ética, relación que dota a esta última de mayor importancia de la que se le concedía a comienzos del siglo anterior. El entusiasmo característico del siglo veinte por la tecnología entendida como algo virtualmente bueno bajo toda circunstancia se ha visto modificado por una fe más matizada y por los diversos esfuerzos para avanzar un tipo de reflexión ética crítica dirigida tanto a las opciones como a las amenazas asociadas al periodo de cambio tecnológico más rápido y más extendido en la historia de la humanidad.

Son al menos tres las áreas en las que se pueden encontrar señales de esta nueva receptividad hacia los temas de ética y tecnología, a saber: la filosofía, los estudios de ciencia y tecnología, y el ámbito de la política de ciencia y tecnología. En filosofía, actualmente es para resaltar el interés en la ética. Uno de los motivos de tal interés radica en el origen de la ética aplicada, a menudo interesada en cuestiones vinculadas con la ciencia y la tecnología, si bien en la actualidad sus objetivos son mucho más generales, hasta el punto de retomar cuestiones de teoría ética básica, en muchas de cuyas áreas se puede detectar la sombra de la tecnología. He ahí, por citar un ejemplo particularmente obvio, el estudio de Onora O'Neill Autonomy and Trust in Bioethics (2002), acerca de diversas experiencias con la tecnología en el ámbito de la biomedicina, cuyo objetivo consiste en clarificar el carácter autónomo de la ética en general y en analizar la confianza que en ella podemos depositar.

En los estudios de ciencia y tecnología, los enfoques más estrictamente descriptivos y próximos a la construcción social de la tecnología han comenzado a tener cabida entre los nuevos planteamientos preocupados por cuestiones normativas. Aquí se pueden mencionar como casos los trabajos de Bruno Latour y de Sheila Jasanoff, dos figuras líderes de lo que se ha denominado el enfoque socio-constructivista. Latour describe sus Politiques de la nature (1999) como una "filosofía política de la naturaleza" que busca una forma nueva de gobierno, típica del mundo tecnológico, para el colectivo de humanos y no-humanos. Por su parte, Jasanoff (2005), mediante la ampliación de sus estudios sobre la construcción mutua de ciencia y ley (1995), también argumenta ahora en pro de nuevas formas de participación ciudadana en la gobernanza de la ciencia a través del desarrollo de lo que ella llama "tecnologías de la humildad".

Por último, cabe resaltar que el trabajo de Jasanoff también supone una interesante aportación a los estudios sobre política de ciencia y tecnología, especialmente en la medida en que impulsa a la ética a tratar sobre cuestiones de tecnología. En este campo se puede hacer referencia a aportaciones tan diversas como la de Francis Fukuyama o la de Daniel Callahan. Desde una perspectiva filosófico-política conservadora, Fukuyama (2002) defiende que se reconsideren las necesidades y oportunidades de la regulación de la biotecnología. Desde un punto de vista filosófico-político más liberal, sin embargo, las propuestas de Callahan (2003) constituyen sin duda un desafío a lo que denomina el "imperativo de la investigación" que parecería justificar una política expansionista de la ciencia y la tecnología. Por supuesto, la medida en que ambas se vayan a tener en cuenta en ámbitos políticos más extensos es algo que está por decidir.

El trasfondo de todo esto es que a pesar de las arremetidas de la globalización y del avance continuo en la ideología de la tecnología, existen movimientos a lo largo y ancho del espectro político y -más cohesivamente aún- en el mundo académico, que trabajan conjuntamente para situar la tecnología bajo perspectivas más y mejor analizadas. Como resultado de ello, el siglo veintiuno nos ofrece la oportunidad de buscar una visión ética que nos conduzca por el camino entre la Escila del positivismo natural y la Caribdis de la hybris tecnológica. Esto sin duda animará a los académicos de la filosofía, a los estudiosos de la ciencia y la tecnología, y a los expertos en política científica a asistir a los ciudadanos en la búsqueda del bien común en ésta, nuestra nueva condición histórica.

Notas

* Este artículo se basa en y adapta bajo permiso contenidos de Carl Mitcham (2005): "Technology and Ethics," en Colin A. Hempstead (ed.), Encyclopedia of 20th-Century Technology,vol. 2, Nueva York, Routledge, pp. 785-789. El autor también querría dar las gracias a Diego Lawler por su disposición y a Juan Bautista Bengoetxea por su asistencia.

1. Hay versión en español: Primavera silenciosa, Barcelona, Crítica. [N. de T.]

Bibliografía

1 BAEKELAND, Leo Hendrick (1910): "Science and Industry," Transactions of the American Electrochemical Society, vol. 17, pp. 37-53.        [ Links ]

2 CALLAHAN, Daniel (2003): What Price Better Health? Hazards of the Research Imperative, Berkeley, University of California Press.        [ Links ]

3 CARSON, Rachel (1962): Silent Spring, Boston, Houghton Mifflin.        [ Links ]

4 COLLINGRIDGE, David (1980): The Social Control of Technology, New York, St. Martin's Press.        [ Links ]

5 EINSTEIN, Albert (1960): Einstein on Peace, Eds. Otto Nathan and Heinz Norden, New York, Simon and Schuster.        [ Links ]

6 ELLUL, Jacques (1954): La Technique ou l'enjeu du siècle, París, Armand Colin.        [ Links ]

7 FUKUYAMA, Francis (2002): Our Posthuman Future: Consequences of the Revolution, New York, Farrar, Straus and Giroux.        [ Links ]

8 HARREMOËS, Poul et al. (eds.) (2002): The Precautionary Principle in the 20th Century: Late Lessons from Early Warnings, London, Earthscan.         [ Links ]

9 JASANOFF, Sheila (1995): Science at the Bar: Law, Science, and Technology in America, Cambridge, MA, Harvard University Press.        [ Links ]

10 JASANOFF, Sheila (2005): "Technologies of Humility: Citizen Participation in Science", en Carl Mitcham (ed.) (2005): Encyclopedia of Science, Technology, Ethics,New York, Macmillan Reference, vol. 1.        [ Links ]

11 JONAS, Hans (1984): The Imperative of Responsibility: In Search of an Ethics for the Technological Age, trans. Hans Jonas and David Herr, Chicago, University of Chicago Press.        [ Links ]

12 LATOUR, Bruno (1999): Politiques de la nature: Comment faire entrer les sciences démocratie, Paris, La Découverte.        [ Links ]

13 O'NEILL, Onora (2002): Autonomy and Trust in Bioethics, Cambridge, UK, University Press.        [ Links ]

14 OGBURN, William Fielding (1922): Social Change with Respect to Culture and Nature, New York, Viking.        [ Links ]

15 OPPENHEIMER, J. Robert (1947): Physics in the Contemporary World, Cambridge, MA, MIT Press.        [ Links ]

16 SHRADER-FRECHETTE, Kristin S. (1991): Risk and Rationality: Philosophical Foundations for Populist Reforms, Berkeley, University of California Press.        [ Links ]