전체 글 (7) 썸네일형 리스트형 [영화리뷰] The Imitation Game (이미테이션 게임) The Imitation Game 코로나 백신을 맞고 쉬는 동안 넷플릭스에서 모르텐 튈둠 감독의 영화를 보았습니다. 은 2차 세계 대전 독일군의 암호체계인 에니그마를 복호화하기 위한 영국의 엘런 튜링(베네딕트 컴버배치)과 암호해독팀의 노력을 그려냈습니다. 영화 자체가 생각해 볼 만한 거리를 많이 던져주고 인상적인 장면이 많아서, 다시 봐도 새로운 관점으로 영화를 감상할 수 있었습니다. "아는 만큼 보인다."라는 말처럼, 영화를 새로운 관점으로 보는 일은 흥미롭고 인상적이고 경험입니다. 이번에 영화를 보면서 가장 제 마음을 울렸던 내용은 조안 클라크(키이라 나이틀리)가 엘런 튜링에게 조언했던 말입니다. 천재인 엘런 튜링도 혼자서는 에니그마를 복호화할 수 없었습니다. 엘런 튜링의 기계가 탐색하는 경우의 수를.. [Optimization] Genetic Algorithm (유전 알고리즘) 유전 알고리즘이란? 유전 알고리즘(Genetic Algorithm)은 자연세계의 진화과정에 기초한 계산 모델로 존 홀랜드(John Holland)에 의해서 개발된 전역 최적화 기법으로 진화 연산(Evolutionary Computation)의 대표적인 한 분야이자, 생물의 진화 과정에서 많은 부분을 차용한 알고리즘입니다. 연산 정의에 따라 차이가 있겠지만 일반적으로 유전 알고리즘은 문제를 해결하는 데 상당한 시간이 걸리기에 순회 세일즈맨 문제(Traveling Salesman Problem)와 같이 전역 최적해를 구하기 난해한 문제에서 유용하게 사용됩니다. 그러나 유전 알고리즘을 "특정 문제를 풀기 위한 알고리즘"으로 오해하면 안 됩니다. 유전 알고리즘은 모든 문제에 일괄적으로 적용할 수 있는 소스 코드.. [영화리뷰] 3 idiots (세 얼간이) 3 Idiots 넷플릭스에서 라지쿠마르 히나리 감독의 영화를 보았습니다. 는 인도 최고의 공과대학에 다니는 란초와 라쥬, 파르한의 이야기로 현재와 과거를 넘나들며 세 친구들의 대학생활을 그려냈습니다. 세 친구들은 저마다 독특한 캐릭터를 가지고 있습니다. 가난한 집안을 일으키기 위해 좋은 회사에 취업하고자 하는 라쥬, 집안의 반대를 무릅쓰고 공학도가 아닌 사진작가가 되고 싶은 파르한의 이야기는 자신의 현실과 꿈 사이에서 갈등하는 사람의 모습을 보는 듯했습니다. 란초는 두 친구와는 다르게 매사에 자신감을 가지고 있고 긍정적인 성격을 가지고 있습니다. 마치, 대학 생활을 다 겪어 본 사람처럼요. 란초는 친구들에게 "Aal izz well", 어려운 일이 있어도 잘 될 것이라는 위로를 건내줍니다. 그 덕분일까요.. [Calculus] Taylor Series (테일러 급수) 테일러 급수란? 테일러 급수(Taylor Series)는 알려지지 않은 어떤 함수 f(x)를 다항식들의 합으로 표현하는 것을 의미합니다. 머신러닝을 공부하다 보면 파라미터의 최적화 과정에서 테일러 급수가 종종 사용됩니다. 간단하게 개념을 정리하고 예시를 통해 테일러 급수를 어떻게 활용할 수 있을지에 대한 시야를 넓혀보고자 합니다. Eqn.1은 테일러 급수로 함수를 나타내는 방법으로 테일러 전개(Taylor Expansion)를 의미합니다. 이때, 함수 f(x)에 대한 다항함수를 a에서 f(x)의 테일러 급수라 하며, a=0인 테일러 급수는 맥클로린 급수(Meclaurin Series)라고 합니다. 테일러 전개의 구성 테일러 전개는 함수를 수열로 변환합니다. 즉, 함수의 문제를 Eqn. 2처럼 수열의 문제.. [AI & ML Introduction] Maximum A Posteriori Estimation (MAP) Thumbtack Question 엔지니어는 MLE를 계산하면서 압정을 던졌을 때, 앞면이 나올 확률 $\theta$가 0.6이라는 것을 증명했습니다. 하지만, 만약 압정을 던지는 실험을 예전에 수행했었고 압정을 던졌을 때 앞면이 나올 확률이 0.5이라고 알려져 있으면 확률은 어떻게 될까요? 엔지니어 입장에서 이미 알려진 정보를 확률 계산에 반영해 볼 수는 없을까요? Bayes's Theorem 확률에 사전 정보를 반영하기 위한 좋은 방법이 있습니다. 바로 베이즈 정리입니다. 베이즈 정리는 사후 확률(Posterior Probability)을 사전 확률(Prior Probability)과 가능도(likelihood)를 이용해서 계산할 수 있게 해줍니다. 해당 식은 Eqn.1 과 같습니다. Eqn. 1 $.. [AI & ML Introduction] Maximum Likelihood Estimation (MLE) Thumbtack Question 압정을 던져서 앞면과 뒷면을 결정하는 도박을 하고 있다고 가정해보겠습니다. 과학적인 의사결정을 하는 엔지니어라면 앞, 뒤 중 어디에 돈을 거는 것이 합리적일까요? 도박에 합리적인 선택이 있을 리 만무하지만, 그러한 내용은 잠시 접어두도록 하겠습니다. 합리적인 의사결정을 위해서는 어떤 행동을 해야 할까요? Fig. 1 압정을 던지면 어떤 결과를 얻을까? 아마 엔지니어는 압정을 먼저 던져볼 것입니다. 압정을 5번 던져서 앞면이 3번, 뒷면이 2번 나왔다고 가정해 보겠습니다. 그렇다면 엔지니어는 압정의 앞면이 나올 확률이 $\frac{3}{5}$, 뒷면이 나올 확률이 $\frac{2}{5}$라고 말할 수 있을 것입니다. 그렇다면 그 확률은 어떻게 정의된 것일까요? 던지는 것과.. [Calculus] Lagrange Multiplier Method (라그랑주 승수법) 라그랑주 승수법이란? 라그랑주 승수법은 제약이 있는 최적화 문제를 푸는 방법 중 하나로, 모든 제약식에 라그랑주 승수(Lagrange Multiplier) $\lambda$를 곱하고 등식 제약이 있는 문제를 제약이 없는 문제로 바꾸어 문제를 해결하는 방법입니다. 만약, 등식이 아니라 부등식의 제약이 있는 문제라면, KKT(Karush-Kuhn-Tucker) 조건을 만족하는 문제일 때 라그랑주 승수법으로 문제를 해결할 수 있습니다. 예를 들어 $\mathit{f}(x) = x^2 +1$ 을 최소화 하는 문제에서 $g(x) \leq 3$ 이라는 제약조건이 있다면, 제약조건의 형태를 $g(x)-3 \leq 0$ 과 같이 바꿔준 후 라그랑주 승수법(Lagrange Multiplier Method)을 적용하고 K.. 이전 1 다음
