[python] bert embedding 사용하기

#python #bert #embedding bert embedding을 사용하기 위해서 구글링 하던중, 다양한 에러를 만났지만 해결해낸 과정을 작성해보고자 한다. 1. hugging face의 transformers의 버전 차이 pip install transformers 여러분의 python버전에 따라 설치되는 transformers의 버전이 다르다. 저는 python3.5에서는 transformers 2.x까지만 설치되는 까닭에 TypeError: 'BertTokenizer' object is not callable 이런 에러를 만나게 되었다. python3.6이후에는 transformers 3.x가 설치되었고, 위의 에러는 해결할 수 있게 되었다. 2. output hidden state값 가져오기 대부분의 블로그는 bert의 'bert-base-uncased' 모델을 사용했다.

내가 하고 싶었던 부분은 한국어를 다루기 위해 bert를 사용하는 것이라 적합하지 않았다. 따라서...