Friendly artificial intelligence (original) (raw)

About DBpedia

الذكاء الاصطناعي الصديق (بالإنجليزية: Friendly artificial intelligence أو friendly AI أو FAI)، يشير هذا المصطلح إلى مجموعة فرضيات تشير إلى نوع من أنواع الذكاء العام الاصطناعي (AGI) الذي قد يكون له تأثير إيجابي (أو حميد) على البشرية، أو يتماشى على الأقل مع المصلحة البشرية كما يساهم في تحسين الجنس البشري. يعتبر الـ FAI جزء من أخلاقيات الذكاء الاصطناعي ويرتبط بشكل قوي بأخلاقيات الآلة (بالإنجليزية: Machine ethics). بينما تهتم دراسات أخلاقيات الذكاء الاصطناعي بالسلوك الذي يتوجب عامل الذكاء الاصطناعي التعامل به، تركز أبحاث الذكاء الاصطناعي الصديق على الجانب العملي وتدرس كيفية إحداث هذا السلوك على أرض الواقع والتأكد من تقييده بشكل مناسب.

thumbnail

Property Value
dbo:abstract الذكاء الاصطناعي الصديق (بالإنجليزية: Friendly artificial intelligence أو friendly AI أو FAI)، يشير هذا المصطلح إلى مجموعة فرضيات تشير إلى نوع من أنواع الذكاء العام الاصطناعي (AGI) الذي قد يكون له تأثير إيجابي (أو حميد) على البشرية، أو يتماشى على الأقل مع المصلحة البشرية كما يساهم في تحسين الجنس البشري. يعتبر الـ FAI جزء من أخلاقيات الذكاء الاصطناعي ويرتبط بشكل قوي بأخلاقيات الآلة (بالإنجليزية: Machine ethics). بينما تهتم دراسات أخلاقيات الذكاء الاصطناعي بالسلوك الذي يتوجب عامل الذكاء الاصطناعي التعامل به، تركز أبحاث الذكاء الاصطناعي الصديق على الجانب العملي وتدرس كيفية إحداث هذا السلوك على أرض الواقع والتأكد من تقييده بشكل مناسب. (ar) Friendly artificial intelligence (also friendly AI or FAI) refers to hypothetical artificial general intelligence (AGI) that would have a positive (benign) effect on humanity or at least align with human interests or contribute to foster the improvement of the human species. It is a part of the ethics of artificial intelligence and is closely related to machine ethics. While machine ethics is concerned with how an artificially intelligent agent should behave, friendly artificial intelligence research is focused on how to practically bring about this behaviour and ensuring it is adequately constrained. (en) La inteligencia artificial amigable (también llamada IA amigable o FAI por sus siglas en inglés) es una IA fuerte (IAF) e hipotética, puede tener un efecto positivo más que uno negativo sobre la humanidad. El término fue acuñado por Eliezer Yudkowsky​ para discutir acerca de los agentes artificiales súper inteligentes que de manera confiable implementan los valores humanos. Stuart J. Russell y Peter Norvig, liderando el libro de texto de inteligencia artificial, , describen dicha idea:​ Yudkowsky (2008) entra en mayor detalle acerca de la IA amigable. Él afirma que la amabilidad, un deseo de no lastimar a los humanos, debe de ser diseñada desde el comienzo. Los diseñadores deben reconocer que tan defectuosos pueden ser sus diseños y que tanto aprenderán y evolucionarán los robots con el tiempo. Por lo tanto, el desafío es un diseño de mecanismos de los sistemas de IA bajo un sistema de chequeos y balances para lograr las funciones de utilidad de sistemas que permanecerán amigables frente a cualquier cambio. 'Amigable' es usado en este contexto como terminología técnica y escoge agentes que son seguros y útiles, no necesariamente aquellos que son "amigables" en el sentido coloquial. El concepto es invocado principalmente en el contexto de discusiones de agentes artificiales de que rápidamente , con el argumento de que esta tecnología hipotética pudiera tener una larga, rápida y difícil tarea de controlar el impacto en la sociedad humana.​ (es) Une intelligence artificielle amicale (aussi appelé IA amicale ou IAA) est une intelligence artificielle hypothétique qui aurait un effet positif plutôt que négatif sur l'humanité. Ce concept fait partie de l'éthique de l'intelligence artificielle et est étroitement lié à l'. Alors que l'éthique des machines se préoccupe de la façon dont un agent artificiellement intelligent doit se comporter, la recherche de l'intelligence artificielle amicale est axée sur la façon de provoquer ce comportement et de s'assurer qu'il est suffisamment restreint. (fr) 友好的な人工知能 (あるいは友好的なAI 、FAI 、英語: Friendly artificial intelligence)とは、人間に悪い影響ではなく良い影響を与えると考えられる仮定の(AGI)のことを指す。これは人工知能の倫理の一部であり、機械の倫理と密接に関連している。機械の倫理は人工的に知的なエージェントがどのように振る舞うべき かに関するものであるが、友好的な人工知能の研究は実用的にこの動作をもたらし適切な制約を保証する方法に焦点を当てる。 (ja) «Дружній штучний інтелект» або «ДШІ» (англ: FAI) — концепція штучного інтелекту (ШІ), який мав би скоріше позитивний, ніж негативний вплив на людство. Термін ДШІ також використовується стосовно області досліджень, метою яких є створення такого ШІ. Цей термін в першу чергу відноситься до тих ШІ-програм, що мають здатність значно впливати на людство, таких, наприклад, чий інтелект порівнюється з людським або перевершує його. (Див. Технологічна сингулярність, Сильний штучний інтелект). Цей конкретний термін був запропонований Елізером Юдковським з Singularity Institute for Artificial Intelligence як технічний термін, що відрізняється від звичайного повсякденного значення терміна «дружній». Однак проблема, яка позначається цим терміном, давніша. (uk) Дружественный искусственный интеллект (Дружественный ИИ, ДИИ — англ. Friendly Artificial Intelligence, Friendly AI, FAI) — концепция философии ИИ, гипотетический тип искусственного интеллекта, не оказывающий негативного влияния на человеческую цивилизацию. Многие концепции ДИИ включают утверждение о том, что он не только не будет приносить вреда человечеству, но и будет оказывать материально-информационную поддержку людям, вплоть до полного обеспечения желаний и потребностей каждого отдельно взятого человека. «Дружественный» в данном контексте является техническим термином, который не означает, что ИИ обязательно будет испытывать к человечеству чувства привязанности и близости. (ru)
dbo:thumbnail wiki-commons:Special:FilePath/Eliezer_Yudkowsky,_Stanford_2006_(square_crop).jpg?width=300
dbo:wikiPageExternalLink http://intelligence.org/files/AIPosNegFactor.pdf http://www.optimal.org/peter/siai_guidelines.htm https://aaai.org/Papers/Workshops/2008/WS-08-07/WS08-07-023.pdf http://www.ssec.wisc.edu/~billh/g/SIAI_critique.html https://nickbostrom.com/ethics/ai https://www.thenewatlantis.com/publications/the-problem-with-friendly-artificial-intelligence https://link.springer.com/article/10.1007/s10676-020-09556-w https://intelligence.org/files/CFAI.pdf https://intelligence.org/ie-faq/%23WhatIsFriendlyAI
dbo:wikiPageID 351887 (xsd:integer)
dbo:wikiPageLength 22112 (xsd:nonNegativeInteger)
dbo:wikiPageRevisionID 1123781045 (xsd:integer)
dbo:wikiPageWikiLink dbr:Roger_Bacon dbc:Transhumanism dbr:Peter_Norvig dbr:Utility_function dbr:Decision_theory dbr:Intelligence_explosion dbr:Our_Final_Invention dbr:Alexander_Wissner-Gross dbr:Eliezer_Yudkowsky dbr:Gary_Marcus dbr:Moral_universalism dbr:The_New_Atlantis_(journal) dbr:Machine_Intelligence_Research_Institute dbr:Steve_Omohundro dbr:Stuart_J._Russell dbr:Emotion_recognition dbr:John_McGinnis dbr:Roko's_basilisk dbr:Machine_ethics dbr:Bruce_Schneier dbr:James_Barrat dbr:AAAI dbr:AI_alignment dbr:Affective_computing dbr:Evolutionary_psychology dbr:Existential_risk_from_advanced_artificial_intelligence dbr:Existential_risk_from_artificial_general_intelligence dbr:Nick_Bostrom dbr:Golem dbr:Gerbert_of_Aurillac dbr:Isaac_Asimov dbr:Technical_terminology dbr:The_Guardian dbr:Singularitarianism dbr:Artificial_general_intelligence dbr:Artificial_intelligence dbr:AI_&_Society dbr:AI_takeover dbc:Philosophy_of_artificial_intelligence dbc:Singularitarianism dbc:Affective_computing dbr:Bill_Hibbard dbr:Three_Laws_of_Robotics dbr:Regulation_of_algorithms dbr:Artificial_Intelligence:_A_Modern_Approach dbr:Artificial_intelligence_arms_race dbr:Asilomar_Conference_on_Recombinant_DNA dbr:Human_Compatible dbr:Human_nature dbr:Instrumental_convergence dbr:National_Institutes_of_Health dbr:OpenAI dbr:Sentiment_analysis dbr:Technological_singularity dbr:Ethics_of_artificial_intelligence dbr:Superintelligence dbr:Metaethics dbr:Seth_Baum dbr:Existential_risk dbr:File:Eliezer_Yudkowsky,_Stanford_2006_(square_crop).jpg
dbp:wikiPageUsesTemplate dbt:Artificial_intelligence dbt:Columns-list dbt:Main dbt:Quote dbt:Reflist dbt:Rp dbt:See_also dbt:Short_description dbt:Existential_risk_from_artificial_intelligence
dct:subject dbc:Transhumanism dbc:Philosophy_of_artificial_intelligence dbc:Singularitarianism dbc:Affective_computing
gold:hypernym dbr:Intelligence
rdf:type owl:Thing dbo:Organisation
rdfs:comment الذكاء الاصطناعي الصديق (بالإنجليزية: Friendly artificial intelligence أو friendly AI أو FAI)، يشير هذا المصطلح إلى مجموعة فرضيات تشير إلى نوع من أنواع الذكاء العام الاصطناعي (AGI) الذي قد يكون له تأثير إيجابي (أو حميد) على البشرية، أو يتماشى على الأقل مع المصلحة البشرية كما يساهم في تحسين الجنس البشري. يعتبر الـ FAI جزء من أخلاقيات الذكاء الاصطناعي ويرتبط بشكل قوي بأخلاقيات الآلة (بالإنجليزية: Machine ethics). بينما تهتم دراسات أخلاقيات الذكاء الاصطناعي بالسلوك الذي يتوجب عامل الذكاء الاصطناعي التعامل به، تركز أبحاث الذكاء الاصطناعي الصديق على الجانب العملي وتدرس كيفية إحداث هذا السلوك على أرض الواقع والتأكد من تقييده بشكل مناسب. (ar) Friendly artificial intelligence (also friendly AI or FAI) refers to hypothetical artificial general intelligence (AGI) that would have a positive (benign) effect on humanity or at least align with human interests or contribute to foster the improvement of the human species. It is a part of the ethics of artificial intelligence and is closely related to machine ethics. While machine ethics is concerned with how an artificially intelligent agent should behave, friendly artificial intelligence research is focused on how to practically bring about this behaviour and ensuring it is adequately constrained. (en) Une intelligence artificielle amicale (aussi appelé IA amicale ou IAA) est une intelligence artificielle hypothétique qui aurait un effet positif plutôt que négatif sur l'humanité. Ce concept fait partie de l'éthique de l'intelligence artificielle et est étroitement lié à l'. Alors que l'éthique des machines se préoccupe de la façon dont un agent artificiellement intelligent doit se comporter, la recherche de l'intelligence artificielle amicale est axée sur la façon de provoquer ce comportement et de s'assurer qu'il est suffisamment restreint. (fr) 友好的な人工知能 (あるいは友好的なAI 、FAI 、英語: Friendly artificial intelligence)とは、人間に悪い影響ではなく良い影響を与えると考えられる仮定の(AGI)のことを指す。これは人工知能の倫理の一部であり、機械の倫理と密接に関連している。機械の倫理は人工的に知的なエージェントがどのように振る舞うべき かに関するものであるが、友好的な人工知能の研究は実用的にこの動作をもたらし適切な制約を保証する方法に焦点を当てる。 (ja) «Дружній штучний інтелект» або «ДШІ» (англ: FAI) — концепція штучного інтелекту (ШІ), який мав би скоріше позитивний, ніж негативний вплив на людство. Термін ДШІ також використовується стосовно області досліджень, метою яких є створення такого ШІ. Цей термін в першу чергу відноситься до тих ШІ-програм, що мають здатність значно впливати на людство, таких, наприклад, чий інтелект порівнюється з людським або перевершує його. (Див. Технологічна сингулярність, Сильний штучний інтелект). Цей конкретний термін був запропонований Елізером Юдковським з Singularity Institute for Artificial Intelligence як технічний термін, що відрізняється від звичайного повсякденного значення терміна «дружній». Однак проблема, яка позначається цим терміном, давніша. (uk) Дружественный искусственный интеллект (Дружественный ИИ, ДИИ — англ. Friendly Artificial Intelligence, Friendly AI, FAI) — концепция философии ИИ, гипотетический тип искусственного интеллекта, не оказывающий негативного влияния на человеческую цивилизацию. Многие концепции ДИИ включают утверждение о том, что он не только не будет приносить вреда человечеству, но и будет оказывать материально-информационную поддержку людям, вплоть до полного обеспечения желаний и потребностей каждого отдельно взятого человека. «Дружественный» в данном контексте является техническим термином, который не означает, что ИИ обязательно будет испытывать к человечеству чувства привязанности и близости. (ru) La inteligencia artificial amigable (también llamada IA amigable o FAI por sus siglas en inglés) es una IA fuerte (IAF) e hipotética, puede tener un efecto positivo más que uno negativo sobre la humanidad. El término fue acuñado por Eliezer Yudkowsky​ para discutir acerca de los agentes artificiales súper inteligentes que de manera confiable implementan los valores humanos. Stuart J. Russell y Peter Norvig, liderando el libro de texto de inteligencia artificial, , describen dicha idea:​ (es)
rdfs:label الذكاء الاصطناعي الصديق (ar) Inteligencia artificial amigable (es) Friendly artificial intelligence (en) Intelligence artificielle amicale (fr) Friendly artificial intelligence (ja) Дружественный искусственный интеллект (ru) Vänlig artificiell intelligens (sv) Дружній штучний інтелект (uk)
rdfs:seeAlso dbr:AI_control_problem dbr:Technological_singularity
owl:sameAs freebase:Friendly artificial intelligence wikidata:Friendly artificial intelligence dbpedia-ar:Friendly artificial intelligence dbpedia-es:Friendly artificial intelligence dbpedia-fa:Friendly artificial intelligence dbpedia-fr:Friendly artificial intelligence http://hy.dbpedia.org/resource/Ընկերական_արհեստական_բանականություն dbpedia-ja:Friendly artificial intelligence dbpedia-ru:Friendly artificial intelligence dbpedia-sv:Friendly artificial intelligence dbpedia-uk:Friendly artificial intelligence https://global.dbpedia.org/id/3rHqq
prov:wasDerivedFrom wikipedia-en:Friendly_artificial_intelligence?oldid=1123781045&ns=0
foaf:depiction wiki-commons:Special:FilePath/Eliezer_Yudkowsky,_Stanford_2006_(square_crop).jpg
foaf:isPrimaryTopicOf wikipedia-en:Friendly_artificial_intelligence
is dbo:academicDiscipline of dbr:Shane_Legg
is dbo:knownFor of dbr:Eliezer_Yudkowsky
is dbo:wikiPageDisambiguates of dbr:FAI
is dbo:wikiPageRedirects of dbr:Friendly_Artificial_Intelligence dbr:Coherent_Extrapolated_Volition dbr:Friendliness_Theory dbr:Friendliness_theory dbr:Friendly_AI dbr:Friendly_ai dbr:Friendly_artificial_intelligence_research dbr:Friendly_machine_intelligence dbr:Beneficial_AI dbr:Coherent_extrapolated_volition dbr:Unfriendly_AI
is dbo:wikiPageWikiLink of dbr:FAI dbr:List_of_futurologists dbr:Bart_Selman dbr:David_A._McAllester dbr:Peter_Thiel dbr:Don't_be_evil dbr:Life_3.0 dbr:Our_Final_Invention dbr:Why_The_Future_Doesn't_Need_Us dbr:Eliezer_Yudkowsky dbr:Friendly_Artificial_Intelligence dbr:Glossary_of_artificial_intelligence dbr:LessWrong dbr:Machine_Intelligence_Research_Institute dbr:Steve_Omohundro dbr:Roko's_basilisk dbr:Machine_ethics dbr:Affective_computing dbr:Existential_risk_from_artificial_general_intelligence dbr:Singularitarianism dbr:Artificial_general_intelligence dbr:AI_capability_control dbr:Three_Laws_of_Robotics dbr:Instrumental_convergence dbr:Shane_Legg dbr:Coherent_Extrapolated_Volition dbr:Sentiment_analysis dbr:Singleton_(global_governance) dbr:Outline_of_automation dbr:The_Transhumanist_Wager dbr:Friendliness_Theory dbr:Friendliness_theory dbr:Friendly_AI dbr:Friendly_ai dbr:Friendly_artificial_intelligence_research dbr:Friendly_machine_intelligence dbr:Beneficial_AI dbr:Coherent_extrapolated_volition dbr:Unfriendly_AI
is foaf:primaryTopic of wikipedia-en:Friendly_artificial_intelligence