BERT e un model de limbaj folosit in aplicatii NLP, initialele de la Bidirectional Encoder Representations from Transformers.
Hai sa le luam pe rand:
- Biderectional inseamna ca mecanismul de atentie folosit a fost antrenat atat pentru recunoasterea de cuvinte cheie, cat si de generarea de cuvinte noi
BERT are 3 module