트랜스포머로 시작하는 자연어 처리(NLP)
✔ 트랜스포머로 시작하는 자연어 처리자연어 처리(Natural Language Processing, NLP)는 글로벌 디지털 시장에서 인공지능을 대표하고 있으며, 트랜스포머(transformer)는 자연어 이해(Natural Language Understanding, NLU)의 판도를 바꾸고 있다. 트랜스포머 모델은 인공지능의 새로운 시대를 알렸다. 자연어 이해는 언어 모델링, 챗봇, 개인 비서, 질문 답변, 텍스트 요약, 음성 인식, 감성 분석, 기계 번역 등의 기반이 되었다. 우리는 소셜 네트워크, 이커머스, 디지털 신문, 스트리밍 서비스, 원격 진료, 재택근무 등 수백 개의 도메인에서 디지털 전환이 이뤄지는 시대를 살고 있다. 언어를 이해하는 인공지능이 없다면 웹브라우저, 스트리밍 서비스 등 언어와..
더보기
인공지능 수학 공부, 꼭 알아야 할 편미분과 전미분!
편미분에서는 다변수함수를 하나의 변수에 대해 미분합니다. 인공지능에서 파라미터 하나의 변화가 전체에 미치는 영향을 구하는데 사용합니다. 편미분 여러 개의 변수를 가진 함수에 대해 하나의 변수만으로 인한 미분을편 미분이라고 합니다. 편미분의 경우 다른 변수는 상수로 취급합니다. 예를 들어, 2변수로 이루어진 함수 f(x,y)의 편미분은 다음과 같이 (델, 디, 파셜 등으로 읽는다)의 기호를 사용해 나타낼 수 있습니다. x만 미소(微小)한 양 Δx만큼 변화시키고, Δx를 한없이 0에 가깝게 합니다. y 는 미소 변화하지 않으므로 편미분일 때는 상수처럼 취급할 수 있습니다. 아래 그래프처럼 나타냅니다. 위 그래프에서는 x¡이외의 변수를 고정하고, x¡에 대한 f(x₁, x₂, …, x¡, …)변화의 비율을 구..
더보기