기계가 본다
작은 창을 밀며 무엇을 찾는가

지난 15차시에 여러분은 급식 잔반 데이터를 신경망에 넣어 학습시켰습니다. 그때 입력은 기온 · 뜨거움 · 선호도 · 체육 여부 넷이었어요. 사람이 미리 골라 둔 이름 붙은 특성이었지요.

그런데 사진에는 그런 항목이 없습니다. 컴퓨터가 손글씨 사진 한 장에서 실제로 받는 것은 밝기 숫자가 줄줄이 늘어선 격자뿐이에요. '여기에 세로 선이 있다'는 항목도, '여기가 모서리다'라는 항목도 어디에도 적혀 있지 않습니다. 그 사실을 숫자만 보고 계산으로 알아내야 합니다.

오늘 우리가 다룰 그림은 훨씬 작습니다. 12칸 × 12칸짜리 격자에 손으로 찍은 숫자 7 한 장이에요. 획이 있는 칸은 1, 배경은 0입니다. 아래가 그 그림 전부입니다 — 이 144개의 0과 1이 오늘의 재료입니다.

이 '7'에는 획이 세 종류 들어 있습니다. 위쪽 두 줄의 가로획, 오른쪽 위에서 왼쪽 아래로 내려오는 대각획, 그리고 아래쪽의 짧은 세로획이에요. 사람은 이 셋을 한눈에 나눠 봅니다. 그런데 컴퓨터에게는 전부 그냥 1일 뿐입니다.

답은 있다입니다. 필요한 것은 3×3짜리 작은 창 하나예요. 그 창을 그림 위로 한 칸씩 밀면서, 겹친 아홉 칸끼리 곱해서 더합니다. 그것뿐입니다. 그런데 이 단순한 계산이 오늘날 컴퓨터가 사진을 보는 방식의 뼈대입니다.

다만 오늘 정직하게 짚고 갈 것이 하나 있습니다. 오늘 우리가 쓸 창 안의 아홉 숫자는 사람이 손으로 정합니다. 진짜 합성곱 신경망은 그 아홉 숫자를 사람이 정하지 않고 데이터에서 배웁니다. 그 차이가 어디에서 벌어지는지도 오늘 숫자로 재 볼 거예요.

가장 단순한 방법부터 따져 봅시다. 13차시와 14차시에서 만든 신경망은 입력이 숫자 몇 개짜리였습니다. 그러면 12×12 그림의 144칸을 그냥 입력 144개로 넣으면 되지 않을까요? 실제로 그렇게 할 수 있습니다. 다만 두 가지가 곧바로 무너집니다.

① 가중치가 폭발한다

14차시에서 배웠듯이, 입력 하나가 은닉 노드 하나로 갈 때마다 가중치가 하나씩 필요합니다. 입력 144개를 은닉 노드 10개에 모두 연결하면 가중치는 144 × 10 = 1,440개예요. 12×12짜리 장난감 그림인데도 벌써 1,440개입니다.

실제 사진으로 옮겨 보면 규모가 달라집니다. 가로세로 224칸에 색이 3겹(빨강·초록·파랑)인 사진은 픽셀이 224 × 224 × 3 = 150,528개입니다. 이것을 은닉 노드 100개에 전부 연결하면 가중치가 15,052,800개가 돼요. 사진 한 장을 보기 위한 첫 층에서만 1,500만 개입니다.

가중치가 많다는 것은 두 가지 뜻입니다. 하나는 계산과 저장이 무겁다는 것이고, 다른 하나는 더 나쁩니다 — 11차시에서 본 과적합(overfitting)이 훨씬 쉽게 일어납니다. 조절할 손잡이가 1,500만 개인데 사진은 몇 만 장뿐이면, 기계는 규칙을 배우는 대신 사진을 외워 버립니다.

② 조금만 옮겨져도 완전히 다른 그림이 된다

이쪽이 더 심각합니다. 8×8 격자 한가운데 세로 막대가 서 있다고 합시다. 이 막대를 오른쪽으로 딱 한 칸 옮기면 어떻게 될까요?

사람에게는 같은 막대입니다. 그런데 픽셀을 통째로 쓰는 신경망에게는 64칸 중 16칸의 값이 달라진 완전히 새로운 입력이에요. 두 칸을 옮기면 32칸이 달라집니다 — 격자의 절반입니다. 막대가 놓일 수 있는 자리마다 신경망은 가중치를 새로 배워야 합니다. 왼쪽에 선 막대를 알아보는 법을 배웠어도, 오른쪽에 선 막대는 처음 보는 것이 되지요.

정리하면, 픽셀을 통째로 넣는 방식은 수가 너무 많고, 위치가 바뀌면 못 알아봅니다. 합성곱은 이 두 문제를 한 가지 발상으로 동시에 해결합니다. 작은 창 하나를 만들어서, 그것을 그림 전체에 돌려 쓰는 것입니다.

합성곱(convolution)의 절차는 세 줄이면 끝납니다.

• 3×3짜리 숫자 판(필터 또는 커널)을 이미지의 왼쪽 위에 겹쳐 놓는다.
• 겹친 아홉 자리끼리 곱해서 전부 더한다. 그 값 하나를 적어 둔다.
• 필터를 오른쪽으로 한 칸 밀고 2번을 되풀이한다. 줄 끝에 닿으면 아래로 한 칸 내려가 다시 왼쪽부터.

이렇게 얻은 숫자들을 원래 자리대로 모으면 새 격자가 하나 나옵니다. 이것을 특징지도(feature map)라고 불러요. "필터가 찾는 것이 어디에 얼마나 있는가"를 적어 둔 지도입니다.

크기가 조금 줄어드는 데 주의하세요. 8×8 그림에 3×3 필터를 밀면 창을 놓을 수 있는 자리가 가로 6곳 · 세로 6곳이라 특징지도는 6×6이 됩니다. 12×12 그림이면 10×10이 되고요. 가장자리에서는 창이 그림 밖으로 나가 버려 놓을 자리가 없기 때문입니다. 일반적으로 n칸짜리 그림에 k칸짜리 필터를 밀면 (n − k + 1)칸이 나옵니다.

세로 경계 검출기를 밀어 본다

필터에 어떤 숫자를 넣어야 할까요? 아래 아홉 숫자를 봅시다.

이 필터가 하는 일은 "창의 왼쪽 세 칸 합에서 오른쪽 세 칸 합을 뺀다"입니다. 왼쪽이 밝고 오른쪽이 어두우면 큰 양수, 반대면 큰 음수, 양쪽이 같으면 0이 나와요. 즉 좌우로 밝기가 갈리는 자리를 찾습니다. 그런 자리가 바로 세로로 뻗은 경계입니다.

8×8 격자 가운데(3·4열)에 세로 막대를 세우고 이 필터를 밀면 특징지도의 모든 줄이 이렇게 나옵니다.

읽어 봅시다. 막대의 왼쪽 가장자리에서 −3, 오른쪽 가장자리에서 +3이 나왔습니다. 그리고 막대 안쪽은 0이에요. 획이 진하게 칠해진 자리인데도 0입니다.

같은 격자에 가로 검출기를 밀면 어떻게 될까요? 가로 검출기는 위 줄이 +1, 가운데 0, 아래 줄이 −1인 필터입니다 — 위아래 밝기 차를 봅니다. 세로 막대에서는 위아래로 밝기가 변하는 자리가 없으므로 결과는 36칸 전부 0입니다.

이제 그림만 90도 돌려 봅시다. 필터는 한 글자도 고치지 않고, 격자에 가로 막대를 그립니다. 그러면 결과가 정확히 뒤바뀝니다 — 세로 검출기가 전부 0이 되고, 가로 검출기가 −3 두 줄과 +3 두 줄을 냅니다. 무엇을 찾는가는 필터의 아홉 숫자가 정합니다.

왜 필터 값의 합을 0으로 맞추는가

세로·가로 검출기의 아홉 숫자를 더해 보세요. 둘 다 0입니다. 우연이 아닙니다.

필터 값의 합이 0이면, 그림 전체의 밝기가 통째로 올라가도 결과가 하나도 바뀌지 않습니다. 배경 0을 1로, 획 1을 2로 바꿔 그림 전체를 한 칸 밝게 해 보면 특징지도의 모든 칸의 변화량이 0이에요. 반면 아홉 칸이 전부 1인 '흐리기 필터'(합 9)는 모든 칸이 정확히 +9씩 밀립니다.

사진은 조명에 따라 전체가 밝아지거나 어두워집니다. 경계를 찾는 일은 조명과 무관해야 하지요. 필터 값의 합을 0으로 두는 것이 그 성질을 만드는 방법입니다. 이것은 뒤의 실습에서 코드 두 줄로 직접 확인합니다.

필터를 넉 장 준비했습니다. 아홉 숫자만 다를 뿐, 계산 절차는 넷 다 똑같습니다.

이 넉 장을 앞에서 본 12×12 손글씨 7에 밀면 특징지도가 넉 장 나옵니다. 그중 두 장만 봅시다. 반응이 3 이상이면 #, 1~2면 +, 0이면 ., −1~−2면 -, −3 이하면 =로 바꿔 그린 것입니다.

눈으로도 차이가 보입니다. 그런데 눈으로 보인다는 것으로는 부족해요. "어느 필터가 크게 반응하는가"를 숫자로 재야 합니다. 그리고 여기가 오늘 수업에서 가장 조심해야 하는 자리입니다.

잣대를 잘못 고르면 답이 뒤집힌다

먼저 특징지도를 세 구간으로 나눕니다. 특징지도의 행 i는 원래 그림의 행 i부터 i+2까지를 본 결과이므로, 숫자 7의 세 획이 이렇게 대응됩니다.

• 가로획 자리 — 특징지도의 0~1행 (20칸)
• 대각획 자리 — 특징지도의 2~6행 (50칸)
• 세로획 자리 — 특징지도의 7~9행 (30칸)

이제 가장 그럴듯해 보이는 잣대부터 써 봅시다. 구간마다 반응 크기의 평균을 냅니다. "얼마나 세게 반응했나"를 재는 것이지요. 결과는 이렇습니다.

넉 장이 전부 가로획을 가리킵니다. 왜 그럴까요? 가로획에 잉크가 가장 많이 칠해져 있기 때문입니다. 획이 많은 자리는 어떤 필터를 들이대도 값이 크게 나와요. 이 잣대는 어디에 획이 많은가를 재고 있을 뿐, 어떤 모양인가를 재지 못합니다.

잣대를 바꿔 봅시다. 세기의 평균 대신, 필터가 최대로 반응한 칸이 몇 %인가를 셉니다.

이제 보입니다. 세로 검출기는 세로획 자리에서, 가로 검출기는 가로획 자리에서, 대각 검출기는 대각획 자리에서 가장 촘촘하게 반응합니다. 특히 가로 검출기의 세로획 자리는 0%예요 — 세로획이 분명히 있는데도 단 한 칸도 최대로 반응하지 않습니다.

외곽 검출기만 셋과 다릅니다. 어느 자리에서나 크게 반응해요(75% · 44% · 30%). 방향을 가리지 않는 필터이기 때문입니다. 이것도 쓸모가 있습니다 — "여기에 무언가 있다"는 알려 주지만 "어떤 모양인가"는 알려 주지 못하는 필터입니다.

개념 1에서 두 가지가 무너진다고 했지요. 합성곱은 그 둘을 한 가지 발상으로 풉니다. 바로 같은 필터를 그림 전체에 돌려 쓰는 것입니다. 이것을 가중치 공유(weight sharing)라고 부릅니다.

① 가중치가 줄어든다

12×12 그림을 예로 들어 세어 봅시다.

1,500만 개가 1,728개가 됩니다. 8,711배예요. 게다가 필터를 64장이나 쓰고도 그렇습니다. "이 층이 무엇을 볼 것인가"를 64가지나 두면서도 조절할 손잡이는 2천 개가 안 됩니다.

② 물체가 옮겨져도 같은 것을 찾는다

개념 1에서 막대를 한 칸 옮기면 픽셀 64칸 중 16칸이 달라진다고 했지요. 같은 실험을 합성곱으로 해 봅시다. 세로 검출기 한 장만 씁니다.

특징지도를 보세요. 값이 달라진 것이 아니라 그대로 오른쪽으로 밀렸을 뿐입니다. 1칸 옮기면 1칸 밀리고, 2칸 옮기면 2칸 밀립니다. 최대 반응값은 +3 그대로예요. 픽셀을 통째로 쓰는 신경망에게는 "완전히 다른 입력 두 개"였던 것이, 합성곱에게는 같은 것이 다른 자리에 있는 것이 됩니다.

이 성질을 위치 불변성이라고 부릅니다. 고양이를 알아보는 필터 한 장을 배우면, 고양이가 사진의 어디에 있어도 그 필터가 찾아냅니다. 자리마다 따로 배울 필요가 없어요. 가중치 공유와 위치 불변성은 같은 사실의 두 얼굴입니다.

합성곱을 한 번 하면 12×12가 10×10이 됩니다. 별로 줄지 않았지요. 그런데 필터를 넉 장 쓰면 특징지도도 넉 장이라 오히려 숫자가 늘어납니다(100 × 4 = 400개). 뒤에 올 층이 다뤄야 할 숫자를 줄여 줄 장치가 하나 더 필요합니다.

풀링 — 근처에서 가장 센 것만 남긴다

풀링(pooling)은 간단합니다. 특징지도를 2×2씩 겹치지 않게 나누고, 네 값 중 가장 큰 것 하나만 남깁니다. 이것을 최대 풀링이라고 해요. 10×10은 5×5가 됩니다.

칸 수를 따라가 보면 144칸 → 100칸 → 25칸입니다. 원래 그림에 견주어 5.8분의 1로 줄었어요. 그런데도 강한 반응이 어느 근처에 있었는지는 그대로 남아 있습니다 — 아래쪽 왼편(세로획 자리)에 3이 셋, 오른쪽 위(가로획 끝자리)에 3이 둘입니다. 정확한 자리는 버리고 '이 근처에 강한 반응이 있었다'만 남기는 것이 풀링입니다.

층을 쌓으면 보는 것이 달라진다

이제 마지막 발상입니다. 합성곱과 풀링을 한 번만 하지 않고 여러 번 되풀이합니다. 첫 층의 특징지도를 입력으로 삼아 그 위에 또 합성곱을 하는 것이지요.

층이 깊어질수록 한 칸이 원래 그림에서 보는 범위가 넓어집니다. 첫 층의 한 칸은 원래 그림의 3×3만 봅니다. 그 위에 3×3을 또 밀면, 두 번째 층의 한 칸은 원래 그림의 5×5를 보게 되지요. 풀링까지 끼우면 범위가 더 빨리 넓어집니다.

넓게 볼 수 있게 되면 볼 수 있는 것의 종류가 달라집니다. 3×3 안에서는 '선'밖에 보이지 않지만, 20×20 안에서는 '눈'이 보이고, 100×100 안에서는 '얼굴'이 보입니다.

여기까지가 합성곱 신경망(CNN)의 뼈대입니다. 합성곱과 풀링을 몇 겹 지나 격자가 충분히 작아지면, 마지막에는 남은 숫자들을 한 줄로 쭉 펴서 14차시에서 만든 것과 같은 보통의 층에 넣고 답을 뽑습니다. 앞쪽은 '무엇이 어디에 있는지'를 뽑아내는 눈이고, 뒤쪽은 그 눈이 뽑아 준 것으로 판단하는 부분이에요. 이 구조로 컴퓨터는 사진을 분류하고(이 사진은 개인가 고양이인가), 물체를 찾아내고(사진의 어디에 사람이 있는가), 화면을 조각냅니다(어디부터 어디까지가 도로인가). 자율주행차의 카메라도, 병원의 영상 판독 보조 장치도, 휴대전화의 얼굴 잠금 해제도 같은 뼈대를 씁니다.

여기서 오늘 수업의 가장 중요한 문장을 적습니다.

그러면 물음이 남습니다. 그 아홉 숫자는 원래 누가 정하나요? "세로선을 찾으려면 왼쪽 +1 오른쪽 −1"은 사람이 생각해 낼 수 있습니다. 그런데 고양이 수염을 찾는 필터는요? 도로 표지판의 모서리를 찾는 필터는요? 사람이 하나하나 손으로 적을 수 있을까요?

무작위로 뽑으면 어떻게 되는지 세어 봤다

실험을 하나 해 봤습니다. 3×3 필터의 아홉 칸에 −1, 0, +1 중 하나를 아무렇게나 넣어 12장을 만들었어요. 그리고 각 필터가 숫자 7과 숫자 1을 얼마나 잘 가려내는지 쟀습니다.

재는 방법은 이렇습니다. 같은 필터로 7의 특징지도와 1의 특징지도를 각각 만들고, 강한 반응 칸 수의 차이를 봅니다. 차이가 크면 두 숫자를 가려낼 수 있고, 0에 가까우면 구별하지 못합니다. 아무리 세게 반응해도 둘 다 똑같이 세게 반응하면 쓸모가 없으니까요.

손으로 정한 넉 장의 차이는 평균 14.2칸입니다. 무작위로 뽑은 12장은 어땠을까요?

• 12장의 차이 평균은 3.8칸입니다(가장 큰 것 7칸 · 가장 작은 것 0칸). 손으로 정한 넉 장의 3.7분의 1이에요.
• 12장 중 3장은 숫자 7에 강한 반응이 하나도 없습니다. 이 필터들은 아무것도 못 봅니다.
• 12장 중 10장은 아홉 숫자의 합이 0이 아닙니다. 이런 필터는 경계가 아니라 창 안에 획이 얼마나 들어 있나(잉크 양)에 반응해요.
• 반응이 있는 9장을 가장 촘촘한 자리로 나눠 세면 가로획 5장 · 대각획 1장 · 세로획 3장입니다. 어딘가에는 반응하지만, 내가 원하는 것을 골라 주지는 않습니다.

여기서 답이 나옵니다. 무작위로 뽑아서는 안 됩니다. 그렇다고 사람이 수천 장을 손으로 적을 수도 없습니다. 그러면 어떻게 할까요?

그래서 앞의 층 그림에 붙인 이름 — 선 · 부품 · 물체 — 도 사람이 미리 정해 준 것이 아닙니다. 학습이 끝난 뒤 조사해 보니 그렇게 되어 있었다는 뜻이에요. 아무도 "1층은 선을 봐라"라고 시키지 않았는데도 그렇게 됩니다.

그래서 완벽한가 — 아주 작은 잡음이 결론을 흔든다

합성곱 신경망은 강력하지만 사람의 눈과 같은 방식으로 보지는 않습니다. 그 차이가 드러나는 유명한 현상이 적대적 예제(adversarial example)입니다. 사람 눈에는 달라진 것이 거의 없는 사진에 계산된 잡음을 살짝 얹으면, 판다 사진을 긴팔원숭이라고 답하게 만들 수 있다는 보고가 실제로 있었습니다.

가장 작은 형태는 우리 12×12 그림으로도 만들어 볼 수 있습니다. 그림의 몇 칸을 뒤집기만 하고(0을 1로, 1을 0으로) 세로 검출기의 결론이 흔들리는지 재 봤어요.

144칸 중 20칸(13.9%)만 뒤집어도 특징지도의 절반 가까이가 달라지고, 결론은 20번 중 11번 흔들립니다. 그 정도로 지저분해진 그림도 사람 눈에는 여전히 7이에요. 사람이 보는 것과 필터가 보는 것이 같지 않다는 증거입니다.

이것이 왜 위험한지는 자율주행을 생각하면 분명합니다. 정지 표지판에 스티커 몇 장을 붙였을 뿐인데 인공지능이 다른 표지판으로 읽는다면, 그 오차는 사고가 됩니다. 성능이 좋다는 것과 믿을 수 있다는 것은 다른 말이에요. 이 물음은 3단원에서 다시 만납니다.

여기까지 읽은 것을 손으로 확인할 차례입니다. 아래 판은 진짜로 계산합니다. 가운데 아홉 칸에 여러분이 숫자를 넣으면, 그 자리에서 왼쪽 그림 위로 창이 밀려가며 오른쪽 특징지도가 만들어집니다.

그리고 왼쪽 그림의 칸을 눌러 0과 1을 뒤집을 수 있습니다. 획을 지우거나 없던 자리에 점을 찍어 보세요. 이 기능으로 개념 6의 잡음 실험을 여러분 손으로 다시 할 수 있습니다.

과제 ① 표를 채운다 — 필터 넉 장을 겨루게 한다

그림을 손글씨 7로 두고, 프리셋 버튼 넉 장을 차례로 누르며 표를 채우세요. 개념 3의 표와 같은 숫자가 나오면 제대로 읽은 것입니다.

다섯째 줄의 흐리기 필터(아홉 칸 전부 1)를 눈여겨보세요. 아홉 숫자의 합이 9라 음수가 아예 나오지 않습니다. 이 필터는 경계를 찾는 것이 아니라 창 안에 획이 몇 칸 있는지를 셉니다. "값이 크다"와 "경계를 찾았다"가 같은 말이 아니라는 것을 여기서 확인하세요.

과제 ② 반례를 만든다 — 특정 획에만 반응하는 필터

이제 여러분 차례입니다. 아홉 칸을 직접 채워 대각획 자리에서만 크게 반응하는 필터를 만들어 보세요. 목표는 이렇습니다.

• 그림을 손글씨 7로 둡니다.
• 아홉 칸을 고쳐 가며 대각획 자리의 비율이 가장 높아지도록 만듭니다. 대각 검출기의 18%를 넘겨 보세요.
• 동시에 아홉 숫자의 합은 0으로 유지합니다. 합이 0이 아니면 경계가 아니라 잉크 양을 세게 되니까요.
• 완성한 아홉 숫자와 세 구간의 비율을 공책에 적으세요. 확인 문제 3번에서 다시 묻습니다.

과제 ③ 문턱을 찾는다 — 몇 칸을 지워야 결론이 바뀌나

개념 6의 잡음 실험을 손으로 다시 해 봅니다.

• 그림을 손글씨 7, 필터를 세로 검출기로 두세요. '가장 촘촘한 자리'가 세로획인 것을 확인합니다.
• 그림의 칸을 한 칸씩 눌러 뒤집습니다. 누를 때마다 '원래 그림과 다른 칸' 값이 하나씩 올라갑니다.
• '가장 촘촘한 자리'가 세로획이 아니게 되는 순간을 찾으세요. 몇 칸 만에 바뀌었나요? 그때의 칸 수를 공책에 적습니다.
• 🔄 초기화 뒤 다른 자리를 골라 다시 해 보세요. 같은 칸 수에서 바뀌나요, 다른가요? 어느 자리를 건드리는가에 따라 결과가 크게 달라진다면, 그것이 바로 적대적 예제를 만드는 사람이 노리는 지점입니다.

시뮬레이터는 누군가 미리 만들어 둔 것입니다. 이제 계산 자체를 짜 봅시다. 아래 프로그램에서 합성곱의 핵심은 딱 한 줄이고, 그 한 줄이 빈칸입니다.

제대로 채웠다면 【1】의 세로 검출기 한 줄이 [0, -3, -3, 3, 3, 0]으로 찍히고, 가로 검출기는 [0, 0, 0, 0, 0, 0]이 나옵니다. 계산은 순식간에 끝나요 — 12×12 격자에 3×3 필터를 미는 일은 곱셈 900번 정도입니다.

코드에서 확인할 세 자리

• 합성곱은 네 겹 반복이다. 바깥 두 겹(i·j)이 창을 어디에 놓을지를 정하고, 안쪽 두 겹(a·b)이 창 안의 아홉 칸을 훑습니다. 빈칸 ①은 가장 안쪽에 있습니다.
• 결과 크기는 range(n - k + 1)이 정한다. 이 한 줄 때문에 12×12가 10×10이 되고 8×8이 6×6이 됩니다.
• STRONG = 3이 개념 3의 표를 떠받친다. 이 값을 2로 바꾸고 다시 돌려 보세요. 【4】의 결론이 통째로 달라집니다.

필터 값의 합이 왜 0이어야 하는가 — 한 줄만 바꿔 확인한다

개념 2 끝에서 말한 것을 직접 재 봅니다. 그림 전체를 한 칸 밝게 하면(배경 0을 1로, 획 1을 2로) 특징지도가 어떻게 달라질까요?

결과는 [0]과 [9]입니다. 합이 0인 필터는 변화량이 모든 칸에서 0이고, 합이 9인 흐리기 필터는 모든 칸이 정확히 +9씩 밀립니다. 경계 검출기의 아홉 숫자를 합 0으로 맞춰 두는 까닭이 이 두 줄에 다 들어 있어요.

더 부숴 볼 것 — 답을 미리 재 두었다

코드를 고쳐서 돌려 보고 싶은 것이 있을 겁니다. 아래는 실제로 돌려 본 결과입니다. 먼저 예측하고 나서 열어 보세요.

이 단원의 흐름을 다시 세워 봅시다. 2차시부터 12차시까지는 표로 된 데이터를 다뤘습니다. 13·14차시에서 신경망을 만들었고, 15차시에서 그 신경망에 진짜 데이터를 넣어 성능을 쟀지요. 오늘 16차시는 그 신경망 앞에 눈을 하나 달아 준 셈입니다 — 사진을 숫자 몇 개짜리 특징으로 바꿔 주는 장치입니다.

다음 17차시는 말을 다룹니다. 이미지가 격자였다면 말은 줄줄이 이어진 낱말이에요. 도구가 달라지지만 물음은 같습니다 — 사람이 규칙을 적어 주지 않고, 데이터에서 규칙을 찾게 하려면 무엇을 세어야 하는가.

✍️ 문제마다 답을 쓰고 제출하기를 누르세요. 제출하면 모범 답안이 열리고, 제출한 답은 선생님께 전달됩니다.