Чому скалярний добуток пов’язаний із проєкцією?

Уявіть вектор a, спрямований по діагоналі, і вектор b, спрямований горизонтально. Освітіть перпендикулярно до b: a відкидає тінь на лінію вздовж b. Ця тінь є його векторною проекцією.

Скалярний добуток тісно пов’язаний, але він дає число, а не вектор. Давайте подивимося, що саме вимірює це число.

Яка частина довжини припадає на b?

Тримайте a на довжині 10 і обертайте його. Його знакова проекція на напрямок b дорівнює:

$$p = \|\mathbf a\|\cos\theta$$

Косинус перетворює загальну довжину вектора на величину, що вказує вздовж вибраного напрямку. Спробуйте 60°, потім 90°, потім 180°.

Обертати a. Спостерігайте за його тінню.Скинути

Синій: вектор aЗелений: проекціяПомаранчевий: вектор b

b вказує праворуч і намальовано під лінією для видимості. Обидва вектори використовують однаковий масштаб.

Кут θ

20°

0°90°180°

Довжина a

10

Довжина b

1

0°60°90°180°a = (3, 4)

Проєкція зі знаком9.40‖a‖ cos θ

Скалярний добуток9.40проекція × ‖b‖

Вектор проєкції(9.40, 0)на горизонтальній лінії

Проекція додатна: частина або весь a вказує в напрямку b. Оскільки b є одиничним вектором, скалярний добуток дорівнює проекції зі знаком.

При 0° всі 10 одиниць вказують уздовж b. При 60° лише 5. Під кутом 90° проекція дорівнює нулю, навіть якщо a все ще має довжину 10. Під кутом 180° вона дорівнює −10: вектор повністю вказує в протилежному напрямку.

Проекція припадає на лінію через b, тому вона може виходити за межі b або вказувати назад.

Де входить скалярний добуток

Скалярний добуток множить довжину проекції зі знаком на довжину b:

$$\mathbf a\cdot\mathbf b = \|\mathbf a\|\|\mathbf b\|\cos\theta = p\|\mathbf b\|$$

Коли b є одиничним вектором ($\|\mathbf b\|=1$), скалярний добуток дорівнює довжині проекції зі знаком. Змініть Довжина b з 1 на 2 у провіднику. Тінь залишається на місці, а добуток подвоюється.

Для конкретного прикладу виберіть a = (3, 4). З $\mathbf b=(1,0)$:

$$\mathbf a\cdot\mathbf b=3(1)+4(0)=3$$

Тепер встановіть довжину b на 2, тому $\mathbf b=(2,0)$:

$$\mathbf a\cdot\mathbf b=3(2)+4(0)=6$$

Довжина проекції зі знаком дорівнює 3, а вектор проекції дорівнює (3, 0). Змінився лише скалярний добуток.

Три пов’язані величини

Для ненульового опорного вектора b:

Якщо b є нульовим вектором, скалярний добуток дорівнює нулю, але проекція на його напрямок не визначена: він не має напрямку для проектування.

Координати також є проекціями

Горизонтальна координата $(3,4)$ дорівнює 3, оскільки його скалярний добуток на горизонтальний одиничний вектор $(1,0)$ дорівнює 3. Його вертикальна координата дорівнює 4, оскільки його скалярний добуток на $(0,1)$ дорівнює 4.

Загалом, в ортонормальному базисі (перпендикулярні одиничні вектори) кожна координата є скалярним добутком:

$$a_i = \mathbf a\cdot\mathbf e_i$$

Вибір іншого ортонормованого базису означає вимірювання того самого вектора в різних напрямках. Це геометрія кроків проекції в PCA та SVD.

Чому це важливо для нейрона

Зважена сума нейрона $\mathbf w\cdot\mathbf x$ вимірює знакову проекцію вхідних даних x на напрямок ваги w, масштабований $\|\mathbf w\|$. Зміщення змінює цей результат, а функція активації перетворює його.

Для вхідних даних однакової довжини сильніше вирівнювання за допомогою w дає більшу зважену суму. Це геометричний сенс, у якому нейрон може визначити напрямок у своєму вхідному просторі.

Висновок: кут визначає, наскільки один вектор падає вздовж іншого напрямку. Скалярний добуток вимірює цю кількість, масштабовану за довжиною опорного вектора.

Перевірте розуміння

Спробуйте п’ять запитань про кути, масштабування та вимірювання проекції. Виберіть відповідь, а потім використовуйте Перевірити відповідь, щоб переглянути міркування. Ви можете повернутися до запитання та спробувати ще раз.

Питання 1 з 50 перевірено · 0 правильно

Вектор a має довжину 10 і утворює з одиничним вектором b кут 60°. Що таке a · b?

1050

Перевірити відповідь

Почніть спочатку

Продовжуйте навчання

Щоб побачити, як матриця використовує скалярний добуток для створення кожної вихідної координати, продовжуйте з Скалярний добуток: створення виводу по одному рядку.