Data parallelism (original) (raw)
Le parallélisme par distribution de donnée ou parallélisme de donnée (data parallelism en anglais) est un paradigme de la programmation parallèle. Autrement dit, c'est une manière particulière d'écrire des programmes pour des machines parallèles. Les algorithmes des programmes qui entrent dans cette catégorie cherchent à distribuer les données au sein des processus et à y opérer les mêmes opérations à l'instar des SIMD. Le paradigme opposé est celui du .
| Property | Value |
|---|---|
| dbo:abstract | El paral·lelisme de dades és un mètode de paral·lelització el qual en lloc de dependre del procés o de la concurrència de la tasca, està relacionat tant amb el flux com amb l'estructura de la informació. Distribueix les dades en diferents nodes i aquests operen sobre aquestes dades en paral·lel. Una analogia podria ser una fàbrica d'automòbils en la que dues línies de muntatge produiran dues vegades més de vehicles... Pot ser aplicat sobre dades com vectors o matrius que, essent grans o amb gran càrrega de còmput, facilitin poder-se distribuir entre diferents nodes. Així s'assoleix un millor temps d'execució. En paraules més tradicionals, podríem equiparar el concepte del paral·lelisme de dades com a Divideix i Venceràs. L'objectiu principal del paral·lelisme de dades és escalar el rendiment del processament en funció de la capacitat de descompondre el conjunt de dades en fluxos de processament simultanis, tot realitzant el mateix conjunt d'operacions. Sempre que no hi hagi dependències, un vector de N elements pot ser dividit equitativament en Y processadors definits per a accelerar-ne el temps final d'execució. Per exemple, si volem sumar tots els elements d'un vector de 100 posicions i disposem de 4 processadors, podem utilitzar el paral·lelisme de dades per a balancejar la càrrega de treball en 25 posicions de l'array per a cada processador. D'aquesta manera haurem aconseguit disminuir la mida de les dades a realitzar-hi operacions de 100 a 25. Contrasta amb paral·lelisme de tasques com un altre mètode de paral·lelisme. (ca) Data parallelism is parallelization across multiple processors in parallel computing environments. It focuses on distributing the data across different nodes, which operate on the data in parallel. It can be applied on regular data structures like arrays and matrices by working on each element in parallel. It contrasts to task parallelism as another form of parallelism. A data parallel job on an array of n elements can be divided equally among all the processors. Let us assume we want to sum all the elements of the given array and the time for a single addition operation is Ta time units. In the case of sequential execution, the time taken by the process will be n×Ta time units as it sums up all the elements of an array. On the other hand, if we execute this job as a data parallel job on 4 processors the time taken would reduce to (n/4)×Ta + merging overhead time units. Parallel execution results in a speedup of 4 over sequential execution. One important thing to note is that the locality of data references plays an important part in evaluating the performance of a data parallel programming model. Locality of data depends on the memory accesses performed by the program as well as the size of the cache. (en) El paralelismo de datos es un paradigma de la programación concurrente que consiste en subdividir el conjunto de datos de entrada a un programa, de manera que a cada procesador le corresponda un subconjunto de esos datos. Cada procesador efectuará la misma secuencia de operaciones que los otros procesadores sobre su subconjunto de datos asignado. Idealmente, esta ejecución simultánea de operaciones, resulta en una aceleración neta global del cómputo. El paralelismo de datos es un paradigma suficientemente adecuado para operaciones sobre vectores y matrices, dado que muchas de ellas consisten en aplicar la misma operación sobre cada uno de sus elementos. (es) Le parallélisme par distribution de donnée ou parallélisme de donnée (data parallelism en anglais) est un paradigme de la programmation parallèle. Autrement dit, c'est une manière particulière d'écrire des programmes pour des machines parallèles. Les algorithmes des programmes qui entrent dans cette catégorie cherchent à distribuer les données au sein des processus et à y opérer les mêmes opérations à l'instar des SIMD. Le paradigme opposé est celui du . (fr) データ並列性（英: data parallelism）は、複数のプロセッサを用いて演算を行う並列コンピューティングの形態の一つである。データ並列性は、異なる並列計算ノードにデータを分配することに焦点を置いている。並列性の別の形態であるタスク並列性と対照をなす。ループレベル並列性 (loop-level parallelism) とも。 (ja) 資料平行（英語：Data parallelism，又譯為數據平行），是一種多處理器的平行運算模式，將資料分配到不同的平行運算節點中。資料平行把大的任务化解成若干个相同的子任务，处理起来比任务平行简单。 (zh) Паралелізм даних є формою розпаралелювання обчислень на кількох процесорах в паралельно обчислювальних середовищах. Паралелізм даних фокусується на поширенні даних через різні паралельні обчислювальні вузли; це відрізняє його від паралелізму завдань — іншої форми паралелізму. (uk) |
| dbo:thumbnail | wiki-commons:Special:FilePath/Sequential_vs._Data_Parallel_job_execution.png?width=300 |
| dbo:wikiPageExternalLink | https://dx.doi.org/10.1145/7902.7903 |
| dbo:wikiPageID | 9467420 (xsd:integer) |
| dbo:wikiPageLength | 15144 (xsd:nonNegativeInteger) |
| dbo:wikiPageRevisionID | 1115614339 (xsd:integer) |
| dbo:wikiPageWikiLink | dbr:Scalable_parallelism dbr:Matrix_multiplication dbr:SIMD dbr:SPMD dbr:Task_parallelism dbr:Concurrency_(computer_science) dbr:Connection_Machine dbr:Load_balancing_(computing) dbr:Communications_of_the_ACM dbr:Parallel_computing dbr:Thread_level_parallelism dbc:Articles_with_example_pseudocode dbr:C* dbr:CUDA dbr:Threading_Building_Blocks dbr:Locality_of_reference dbr:Active_message dbr:Central_processing_unit dbr:Graphics_processing_unit dbr:Vector_processor dbc:Parallel_computing dbr:Daniel_Hillis dbr:OpenACC dbr:OpenMP dbr:RaftLib dbr:Message_Passing_Interface dbr:Shared_memory dbr:Pseudocode dbr:Parallel_programming_model dbr:Guy_Steele dbr:Circuit_simulation dbr:Instruction_level_parallelism dbr:File:Data_Parallelism_in_matrix_multiplication.png dbr:File:Sequential_vs._Data_Parallel_job_execution.png |
| dbp:wikiPageUsesTemplate | dbt:ISBN dbt:Reflist dbt:Short_description dbt:Var dbt:Parallel_Computing |
| dcterms:subject | dbc:Articles_with_example_pseudocode dbc:Parallel_computing |
| gold:hypernym | dbr:Form |
| rdfs:comment | Le parallélisme par distribution de donnée ou parallélisme de donnée (data parallelism en anglais) est un paradigme de la programmation parallèle. Autrement dit, c'est une manière particulière d'écrire des programmes pour des machines parallèles. Les algorithmes des programmes qui entrent dans cette catégorie cherchent à distribuer les données au sein des processus et à y opérer les mêmes opérations à l'instar des SIMD. Le paradigme opposé est celui du . (fr) データ並列性（英: data parallelism）は、複数のプロセッサを用いて演算を行う並列コンピューティングの形態の一つである。データ並列性は、異なる並列計算ノードにデータを分配することに焦点を置いている。並列性の別の形態であるタスク並列性と対照をなす。ループレベル並列性 (loop-level parallelism) とも。 (ja) 資料平行（英語：Data parallelism，又譯為數據平行），是一種多處理器的平行運算模式，將資料分配到不同的平行運算節點中。資料平行把大的任务化解成若干个相同的子任务，处理起来比任务平行简单。 (zh) Паралелізм даних є формою розпаралелювання обчислень на кількох процесорах в паралельно обчислювальних середовищах. Паралелізм даних фокусується на поширенні даних через різні паралельні обчислювальні вузли; це відрізняє його від паралелізму завдань — іншої форми паралелізму. (uk) El paral·lelisme de dades és un mètode de paral·lelització el qual en lloc de dependre del procés o de la concurrència de la tasca, està relacionat tant amb el flux com amb l'estructura de la informació. Distribueix les dades en diferents nodes i aquests operen sobre aquestes dades en paral·lel. Una analogia podria ser una fàbrica d'automòbils en la que dues línies de muntatge produiran dues vegades més de vehicles... Pot ser aplicat sobre dades com vectors o matrius que, essent grans o amb gran càrrega de còmput, facilitin poder-se distribuir entre diferents nodes. Així s'assoleix un millor temps d'execució. En paraules més tradicionals, podríem equiparar el concepte del paral·lelisme de dades com a Divideix i Venceràs. (ca) Data parallelism is parallelization across multiple processors in parallel computing environments. It focuses on distributing the data across different nodes, which operate on the data in parallel. It can be applied on regular data structures like arrays and matrices by working on each element in parallel. It contrasts to task parallelism as another form of parallelism. (en) El paralelismo de datos es un paradigma de la programación concurrente que consiste en subdividir el conjunto de datos de entrada a un programa, de manera que a cada procesador le corresponda un subconjunto de esos datos. Cada procesador efectuará la misma secuencia de operaciones que los otros procesadores sobre su subconjunto de datos asignado. Idealmente, esta ejecución simultánea de operaciones, resulta en una aceleración neta global del cómputo. (es) |
| rdfs:label | Paral·lelisme de Dades (ca) Paralelismo de datos (es) Data parallelism (en) Parallélisme de donnée (fr) データ並列性 (ja) Паралелізм даних (uk) 資料平行 (zh) |
| owl:sameAs | freebase:Data parallelism yago-res:Data parallelism wikidata:Data parallelism dbpedia-ca:Data parallelism dbpedia-es:Data parallelism dbpedia-fr:Data parallelism dbpedia-ja:Data parallelism dbpedia-ro:Data parallelism http://si.dbpedia.org/resource/දත්ත_සමාන්තරතාව dbpedia-simple:Data parallelism dbpedia-sr:Data parallelism dbpedia-uk:Data parallelism dbpedia-zh:Data parallelism https://global.dbpedia.org/id/2u8Po |
| prov:wasDerivedFrom | wikipedia-en:Data_parallelism?oldid=1115614339&ns=0 |
| foaf:depiction | wiki-commons:Special:FilePath/Data_Parallelism_in_matrix_multiplication.png wiki-commons:Special:FilePath/Sequential_vs._Data_Parallel_job_execution.png |
| foaf:isPrimaryTopicOf | wikipedia-en:Data_parallelism |
| is dbo:wikiPageRedirects of | dbr:Data_Parallelism dbr:Data-level_parallelism dbr:Data-parallelism dbr:Data_level_parallelism dbr:Data_parallel dbr:Data_parallel_computation |
| is dbo:wikiPageWikiLink of | dbr:Scala_(programming_language) dbr:Algorithmic_skeleton dbr:DOACROSS_parallelism dbr:DOPIPE dbr:VeraCrypt dbr:Scalable_parallelism dbr:SAC_programming_language dbr:Task_parallelism dbr:Glasgow_Haskell_Compiler dbr:Glossary_of_computer_science dbr:Apache_Flink dbr:Apache_Spark dbr:Apache_Storm dbr:Array_(data_structure) dbr:ZPL_(programming_language) dbr:Data_Parallelism dbr:Microarchitecture dbr:Parallel_computing dbr:Prefix_sum dbr:Theoretical_computer_science dbr:TrueCrypt dbr:Data-centric_programming_language dbr:Futhark_(programming_language) dbr:DLP dbr:APL_(programming_language) dbr:Alliant_Computer_Systems dbr:Ateji_PX dbr:Accelerator_(library) dbr:Chapel_(programming_language) dbr:High_Performance_Fortran dbr:Thread_(computing) dbr:Data-level_parallelism dbr:Data-parallelism dbr:Data_level_parallelism dbr:Data_parallel dbr:Data_parallel_computation dbr:IPython dbr:OpenCL dbr:OpenMP dbr:RapidMind dbr:Shader dbr:Loop-level_parallelism dbr:Message_Passing_Interface dbr:River_Trail_(JavaScript_engine) dbr:Skeleton_(computer_programming) dbr:NESL dbr:Single_instruction,_multiple_data dbr:Parallel_Extensions dbr:Systolic_array |
| is foaf:primaryTopic of | wikipedia-en:Data_parallelism |
