Generative model (original) (raw)
En classement automatique un modèle génératif est un modèle statistique défini par opposition à un modèle discriminatif. Étant donné une variable X à laquelle il doit associer une autre variable Y, le modèle génératif cherchera à décrire la probabilité conditionnelle ainsi que la probabilité puis d'utiliser la formule de Bayes pour calculer la probabilité . Autrement dit le modèle génératif cherche à décrire chaque classe et à en déduire à quel point une donnée présente les caractéristiques de cette classe.
| Property | Value |
|---|---|
| dbo:abstract | En probabilidades y estadística, un modelo generador es un modelo para generar valores aleatorios de un dato observable, típicamente dados algunos parámetros ocultos. Este especifica una distribución conjunta sobre una secuencias de etiqueta. Los Modelos Generadores son usados en el campo del aprendizaje automático (machine learning) para modelar cualquier dato directamente, o como un paso intermedio para formar una función de densidad de probabilidad condicional. Una distribución condicional puede ser generada por un Modelo Generador mediante la Regla de Bayes. Shannon (1948) da un ejemplo en el que una tabla de frecuencias de pares de palabra en idioma inglés es usada para generar un oración comenzando con "representing and speedily is an good"; la cual no es apropiada en inglés pero cada vez más se va aproximando cuando la tabla es transformada de pares de palabras a tríos. Los modelos generadores contrastan con los modelos discriminadores; un modelo generador es un gran modelo probabilista de todas las variables, mientras que un Modelo Discriminativo proporciona un modelo solo para la(s) variable(s) etiquetada(s) como condicionales sobre las variables observadas. Por ello un modelo generador puede ser utilizado, por ejemplo, para simular (i.e. generar) valores de cualquier variable en el modelo, mientras que un Modelo Discriminativo permite el muestreo único de las variables condicionales. En la práctica las dos clases son vistas como complementarias o como diferentes observaciones del mismo procedimiento. Ejemplos de modelos generadores: * Modelo de mezcla gaussiana y otros tipos de modelo de mezcla * Modelo oculto de Márkov * Gramática libre de contexto probabilística * Clasificador bayesiano ingenuo * Averaged one-dependence estimators * Latent Dirichlet Allocation * Restricted Boltzman machine (es) In statistical classification, two main approaches are called the generative approach and the discriminative approach. These compute classifiers by different approaches, differing in the degree of statistical modelling. Terminology is inconsistent, but three major types can be distinguished, following : 1. * A generative model is a statistical model of the joint probability distribution on given observable variable X and target variable Y; 2. * A discriminative model is a model of the conditional probability of the target Y, given an observation x; and 3. * Classifiers computed without using a probability model are also referred to loosely as "discriminative". The distinction between these last two classes is not consistently made; refers to these three classes as generative learning, conditional learning, and discriminative learning, but only distinguish two classes, calling them generative classifiers (joint distribution) and discriminative classifiers (conditional distribution or no distribution), not distinguishing between the latter two classes. Analogously, a classifier based on a generative model is a generative classifier, while a classifier based on a discriminative model is a discriminative classifier, though this term also refers to classifiers that are not based on a model. Standard examples of each, all of which are linear classifiers, are: * generative classifiers: * naive Bayes classifier and * linear discriminant analysis * discriminative model: * logistic regression In application to classification, one wishes to go from an observation x to a label y (or probability distribution on labels). One can compute this directly, without using a probability distribution (distribution-free classifier); one can estimate the probability of a label given an observation, (discriminative model), and base classification on that; or one can estimate the joint distribution (generative model), from that compute the conditional probability , and then base classification on that. These are increasingly indirect, but increasingly probabilistic, allowing more domain knowledge and probability theory to be applied. In practice different approaches are used, depending on the particular problem, and hybrids can combine strengths of multiple approaches. (en) En classement automatique un modèle génératif est un modèle statistique défini par opposition à un modèle discriminatif. Étant donné une variable X à laquelle il doit associer une autre variable Y, le modèle génératif cherchera à décrire la probabilité conditionnelle ainsi que la probabilité puis d'utiliser la formule de Bayes pour calculer la probabilité . Autrement dit le modèle génératif cherche à décrire chaque classe et à en déduire à quel point une donnée présente les caractéristiques de cette classe. (fr) В теорії ймовірностей та статистиці поро́джувальна моде́ль (англ. generative model) — це модель для породження випадковим чином значень спостережуваних даних, зазвичай для певних заданих прихованих параметрів. Вона визначає спільний розподіл ймовірності над послідовностями спостережень та міток. Породжувальні моделі застосовуються в машинному навчанні або для безпосереднього моделювання даних (тобто для моделювання спостережень, випадково витягнутих з функції густини ймовірності), або як проміжний крок для формування умовної функції густини ймовірності. Умовний розподіл може бути сформовано з породжувальної моделі через правило Баєса. Шеннон (1948) наводить приклад, у якому таблиця частот пар англійських слів застосовується для породження речення, яке починається з «representing and speedily is an good»; що не є правильною англійською, але все більше й більше наближуватиме її з просуванням таблиці від пар слів до триплетів, і так далі. Породжувальні моделі контрастують із розрізнювальними в тому, що породжувальна модель є повною ймовірнісною моделлю всіх змінних, тоді як розрізнювальна забезпечує модель лише для цільової змінної (змінних) залежно від спостережуваних. Таким чином, породжувальна модель може застосовуватися, наприклад, для імітації (тобто, породження) значень будь-якої змінної в моделі, тоді як розрізнювальна модель дозволяє лише вибірку цільових змінних залежно від спостережуваних величин. Незважаючи на те, що розрізнювальні моделі не потребують моделювання розподілу спостережуваних змінних, вони не можуть в загальному випадку виражати складніші відношення між спостережуваними та цільовими змінними. Вони не обов'язково працюють краще за породжувальні моделі в задачах класифікації та регресії. В сучасних застосуваннях ці два класи розглядаються як взаємнодоповнювальні, або як різні погляди на одну й ту саму процедуру. (uk) 在概率统计理论中, 生成模型是指能够随机生成观测数据的模型，尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布。在机器学习中，生成模型可以用来直接对数据建模（例如根据某个变量的概率密度函数进行数据采样），也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯定理形成。 香农 (1948) 给出了有一个英语双词频率表生成句子的例子。可以生成如“representing and speedily is an good”这种句子。一开始并不能生成正确的英文句子，但随着词频表由双词扩大为三词甚至多词，生成的句子也就慢慢的成型了。 生成模型的定义与判别模型相对应：生成模型是所有变量的全概率模型，而判别模型是在给定观测变量值前提下目标变量条件概率模型。因此生成模型能够用于模拟（即生成）模型中任意变量的分布情况，而判别模型只能根据观测变量得到目标变量的采样。判别模型不对观测变量的分布建模，因此它不能够表达观测变量与目标变量之间更复杂的关系。因此，生成模型更适用于无监督的任务，如分类和聚类。 典型的生成模型包括: * 高斯混合模型和其他混合模型 * 隐马尔可夫模型 * 随机上下文无关文法 * 朴素贝叶斯分类器 * * 潜在狄利克雷分配模型 * 受限玻尔兹曼机 如果观测数据是由生成模型中采样的，那么最大化数据似然概率是一个常见的方法。但是，大部分统计模型只是近似于真实分布，如果任务的目标是在已知一部分变量的值的条件下，对另一部分变量的推断，那么可以认为这种模型近似造成了一些对于当前任务来说不必要的假设。在这种情况下，使用判别模型对条件概率函数建模可能更准确，尽管具体的应用细节会最终决定哪种方法更为适用。 (zh) |
| dbo:wikiPageExternalLink | https://www.tnt.uni-hannover.de/edu/vorlesungen/InfoTheor/download/shannon1948.pdf https://link.springer.com/book/10.1007/978-3-030-93158-2 https://www.springer.com/us/book/9781402076473 https://www.cs.columbia.edu/~jebara/papers/jebara4.pdf http://robotics.stanford.edu/~ang/papers/nips01-discriminativegenerative.pdf https://github.com/jmtomczak/intro_dgm http://citeseerx.ist.psu.edu/viewdoc/download%3Fdoi=10.1.1.7.513&rep=rep1&type=pdf https://www.cs.cmu.edu/~tom/mlbook/NBayesLogReg.pdf |
| dbo:wikiPageID | 1222578 (xsd:integer) |
| dbo:wikiPageLength | 19147 (xsd:nonNegativeInteger) |
| dbo:wikiPageRevisionID | 1121156154 (xsd:integer) |
| dbo:wikiPageWikiLink | dbc:Probabilistic_models dbr:Probability_distribution dbr:Naive_Bayes_classifier dbr:Bayesian_network dbr:Bell_System_Technical_Journal dbr:Joint_probability_distribution dbr:Deep_belief_network dbr:Conditional_probability dbr:Conditional_random_field dbr:Massachusetts_Institute_of_Technology dbr:Maximum_likelihood_estimation dbr:Generative_adversarial_network dbr:Outcome_(probability) dbr:Mixture_model dbr:Energy_based_model dbr:GPT-2 dbr:GitHub dbr:Statistical_model dbr:Stochastic_context-free_grammar dbr:Empirical_measure dbr:Decision_Tree_Learning dbr:Maximum-entropy_Markov_model dbc:Machine_learning dbr:GPT-3 dbr:Classification_(machine_learning) dbr:Latent_Dirichlet_allocation dbr:Linear_classifier dbr:Linear_discriminant_analysis dbr:Logistic_regression dbr:Diffusion_model dbr:Discriminative_model dbr:Flow-based_generative_model dbr:Graphical_model dbr:Regression_analysis dbr:Restricted_Boltzmann_machine dbc:Statistical_models dbr:K-nearest_neighbors_algorithm dbr:Hidden_Markov_model dbr:Autoencoder dbr:Autoregressive_model dbr:Averaged_one-dependence_estimators dbr:Marginal_distribution dbr:Boltzmann_machine dbr:Classification_rule dbr:Generative_adversarial_networks dbr:Statistical_classification dbr:Discrete_variable dbr:Observable_variable dbr:Bayes'_rule dbr:Target_function dbr:Support_Vector_Machines dbr:Target_variable dbr:Gaussian_mixture_model dbr:Markov_decision_processes dbr:Random_Forest dbr:Continuous_variable dbr:Naive_bayes dbr:Wikt:classify dbr:Wikt:discriminate dbr:Wikt:pleonasm |
| dbp:wikiPageUsesTemplate | dbt:About dbt:Cite_book dbt:Cite_journal dbt:Cite_thesis dbt:Cite_web dbt:Efn dbt:Harvtxt dbt:Notelist dbt:Portal dbt:Refbegin dbt:Refend dbt:Reflist dbt:Short_description dbt:Harvnb dbt:Statistics |
| dct:subject | dbc:Probabilistic_models dbc:Machine_learning dbc:Statistical_models |
| gold:hypernym | dbr:Model |
| rdf:type | dbo:Person yago:WikicatStatisticalModels yago:Assistant109815790 yago:CausalAgent100007347 yago:LivingThing100004258 yago:Model110324560 yago:Object100002684 yago:Organism100004475 yago:Person100007846 yago:PhysicalEntity100001930 yago:Worker109632518 yago:YagoLegalActor yago:YagoLegalActorGeo yago:Whole100003553 yago:WikicatProbabilisticModels |
| rdfs:comment | En classement automatique un modèle génératif est un modèle statistique défini par opposition à un modèle discriminatif. Étant donné une variable X à laquelle il doit associer une autre variable Y, le modèle génératif cherchera à décrire la probabilité conditionnelle ainsi que la probabilité puis d'utiliser la formule de Bayes pour calculer la probabilité . Autrement dit le modèle génératif cherche à décrire chaque classe et à en déduire à quel point une donnée présente les caractéristiques de cette classe. (fr) In statistical classification, two main approaches are called the generative approach and the discriminative approach. These compute classifiers by different approaches, differing in the degree of statistical modelling. Terminology is inconsistent, but three major types can be distinguished, following : Standard examples of each, all of which are linear classifiers, are: * generative classifiers: * naive Bayes classifier and * linear discriminant analysis * discriminative model: * logistic regression (en) En probabilidades y estadística, un modelo generador es un modelo para generar valores aleatorios de un dato observable, típicamente dados algunos parámetros ocultos. Este especifica una distribución conjunta sobre una secuencias de etiqueta. Los Modelos Generadores son usados en el campo del aprendizaje automático (machine learning) para modelar cualquier dato directamente, o como un paso intermedio para formar una función de densidad de probabilidad condicional. Una distribución condicional puede ser generada por un Modelo Generador mediante la Regla de Bayes. (es) В теорії ймовірностей та статистиці поро́джувальна моде́ль (англ. generative model) — це модель для породження випадковим чином значень спостережуваних даних, зазвичай для певних заданих прихованих параметрів. Вона визначає спільний розподіл ймовірності над послідовностями спостережень та міток. Породжувальні моделі застосовуються в машинному навчанні або для безпосереднього моделювання даних (тобто для моделювання спостережень, випадково витягнутих з функції густини ймовірності), або як проміжний крок для формування умовної функції густини ймовірності. Умовний розподіл може бути сформовано з породжувальної моделі через правило Баєса. (uk) 在概率统计理论中, 生成模型是指能够随机生成观测数据的模型，尤其是在给定某些隐含参数的条件下。它给观测值和标注数据序列指定一个联合概率分布。在机器学习中，生成模型可以用来直接对数据建模（例如根据某个变量的概率密度函数进行数据采样），也可以用来建立变量间的条件概率分布。条件概率分布可以由生成模型根据贝叶斯定理形成。 香农 (1948) 给出了有一个英语双词频率表生成句子的例子。可以生成如“representing and speedily is an good”这种句子。一开始并不能生成正确的英文句子，但随着词频表由双词扩大为三词甚至多词，生成的句子也就慢慢的成型了。 生成模型的定义与判别模型相对应：生成模型是所有变量的全概率模型，而判别模型是在给定观测变量值前提下目标变量条件概率模型。因此生成模型能够用于模拟（即生成）模型中任意变量的分布情况，而判别模型只能根据观测变量得到目标变量的采样。判别模型不对观测变量的分布建模，因此它不能够表达观测变量与目标变量之间更复杂的关系。因此，生成模型更适用于无监督的任务，如分类和聚类。 典型的生成模型包括: * 高斯混合模型和其他混合模型 * 隐马尔可夫模型 * 随机上下文无关文法 * 朴素贝叶斯分类器 * * 潜在狄利克雷分配模型 * 受限玻尔兹曼机 (zh) |
| rdfs:label | Modelo generador (es) Modèle génératif (fr) Generative model (en) Породжувальна модель (uk) 生成模型 (zh) |
| owl:sameAs | freebase:Generative model yago-res:Generative model wikidata:Generative model dbpedia-es:Generative model dbpedia-fa:Generative model dbpedia-fr:Generative model dbpedia-simple:Generative model dbpedia-uk:Generative model dbpedia-vi:Generative model dbpedia-zh:Generative model https://global.dbpedia.org/id/4ksjK |
| prov:wasDerivedFrom | wikipedia-en:Generative_model?oldid=1121156154&ns=0 |
| foaf:isPrimaryTopicOf | wikipedia-en:Generative_model |
| is dbo:knownFor of | dbr:Max_Welling |
| is dbo:wikiPageRedirects of | dbr:Generative_and_discriminative_models dbr:Generative_statistical_model |
| is dbo:wikiPageWikiLink of | dbr:Probabilistic_classification dbr:Energy-based_generative_neural_network dbr:Mila_(research_institute) dbr:Vanishing_gradient_problem dbr:Vicarious_(company) dbr:Decision_tree dbr:Deep_belief_network dbr:Deep_learning dbr:Dynamic_topic_model dbr:Inception_score dbr:Inductive_programming dbr:15.ai dbr:Max_Welling dbr:Generalized_blockmodeling dbr:Generative_adversarial_network dbr:Generative_topographic_map dbr:Energy_based_model dbr:GPT-2 dbr:Glossary_of_artificial_intelligence dbr:Google_Duo dbr:Multimodal_learning dbr:Condensation_algorithm dbr:Constellation_model dbr:Convolutional_deep_belief_network dbr:Community_structure dbr:Computer_graphics dbr:Density_estimation dbr:Helmholtz_machine dbr:Packet_loss_concealment dbr:Pattern_recognition dbr:Text-to-image_model dbr:GPT-3 dbr:Latent_Dirichlet_allocation dbr:Linear_classifier dbr:Church_(programming_language) dbr:Discriminative_model dbr:Flow-based_generative_model dbr:Graphical_model dbr:History_of_artificial_neural_networks dbr:Kalman_filter dbr:Recurrent_neural_network dbr:Restricted_Boltzmann_machine dbr:Bidirectional_recurrent_neural_networks dbr:Binomial_regression dbr:Hidden_Markov_model dbr:Autoencoder dbr:Free_energy_principle dbr:OpenAI dbr:Catastrophic_interference dbr:Generative dbr:Generative_and_discriminative_models dbr:Markov_decision_process dbr:SBM dbr:Stochastic_block_model dbr:Factor_graph dbr:List_of_statistics_articles dbr:Fisher_kernel dbr:Synthetic_media dbr:Multifidelity_simulation dbr:Video_super-resolution dbr:Weak_supervision dbr:Outline_of_machine_learning dbr:Outline_of_statistics dbr:Supervised_learning dbr:Types_of_artificial_neural_networks dbr:Word2vec dbr:Generative_statistical_model |
| is foaf:primaryTopic of | wikipedia-en:Generative_model |