코알라 오딧세이

Transformers 시리즈(2) : BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding Transformers 시리즈를 시작하게 되고 처음으로, Vaswani, Ashish, et al. “Attention is all you need.” Advances in neural information processing systems. 2017 라는 논문을 리뷰했습니다. 이 논문은 transformer라는 혁명적인 아키텍처를 처음으로 세상에 공개한 논문이었습니다. 그 다음으로 BERT: Pre-training of Deep Bidirectional Transformers forLanguage Understanding..

Transformers 시리즈(1)  : Attention Is All You Need 현재 AI를 한다고 하는 사람들이라면, Attention Is All You Need 라는 논문을 한 번이라고 읽어보거나 하다못해 들어봤을 것이라고 생각됩니다. Attention Is All You Need는 현재 GPT, Claude와 같은 현 시대의 아이콘과 같은 생성형 AI들의 모태가 되는 논문입니다. 그렇기에 AI  제가 Attention Is All You Need이라는 논문 이름 옆에 AI 혁명의 시작이라는 부제를 붙인 이유이기도 합니다.제가 블로그를 시작하고 AI 첫 포스트로 이 논문을 선택한 이유이기도 합니다.  이 논문의 초록에서는 자신들이 이 논문에서 제시한 새로운 방법론에 대해서 다음과 같이 서술하..

2024년 12월 19일부터 2025년 1월 9일까지 논산 육군 훈련소 28연대 3교육대 11중대 1소대 2분대에서 보충역 과정으로 기초 군사 훈련을 받았습니다. 처음으로 머리를 짧게 자르고 처음 겪는 낯선 환경에서 처음 보는 사람들과 함께 힘든 훈련을 받는게 쉬운 일은 아니었지만 분대원들, 가족, 여자친구, 직장 동료 덕분에 재밌게 수료하였습니다. 훈련 받은 후기를 짧게 작성해보고자 합니다. 입영 전전문연구요원으로서, 현재 근무하고 있는 회사에 입영 전에도 계속 근무해야 했기에 하루 전인 12월 18일 연차를 내고 본가에 내려와서 훈련소 입영 준비를 했습니다. 머리를 12mm로 자르고 훈련소에서 필요하다고 생각되는 몇가지 물건을 챙겼는데 * 머리를 30mm 정도로 짜르고 가도 너무 길지만 않다면 크게 ..

안녕하세요 저는 대학교에서 생명과학과 빅데이터 분석을, 대학원에서 LLM(이라고 하기엔 데이터 분석에 조금 더 가까웠습니다.. ) 를 공부했고 현재는 전문연구요원으로  모 IT 업체에서 AI 개발을 6개월째 하면서 먹고 살고 있는 코알라라고 합니다.  제가 "코알라 오딧세이"라는 블로그를 개설하게 된 이유는 제 별명인 '코알라'와 고대 그리스의 서사시이자 긴 여행을 의미하는 '오딧세이'를 결합하여, 인생이라는 저만의 여정을 기록하고 소중한 추억으로 간직하고자 함입니다. 인생은 때로는 빠르게 달려가기도 하고, 때로는 그늘에서 휴식을 취하며 여유를 즐기기도 하듯이, 이 블로그의 포스팅 역시 규칙적이지 않을 수 있습니다. 하지만 그때그때의 경험과 생각을 솔직하게 나누고자 합니다. 이 블로그에서는 제가 현재 연..