Равновесието на Наш и честотата на блъфове/колове
Въведение
В тази статия
- Представяне на теорията на игрите
- Равновесието на Наш и заключенията от него
- Честота на залагане и колване
Теорията на игрите е дял от математиката, който анализира определени конфликтни ситуации. В този контекст думата "игра" се ползва за ситуации, в които повече участници се съревновават за ресурси, като всеки участник следва стратегия (възможност и за кооперация) и има възможност за печалба.
Централна концепция в теорията на игрите е така нареченото равновесие на Наш, което описва състоянието на стратегическо равновесие между играчи. Всеки играч знае най-добрия отговор на действието на опонента и никой опонент не може да увеличи печалбата си, като направи едностранна промяна на стратегията.
Tази статия ти дава по-задълбочен поглед над теорията на игрите и равновесието на Наш като стратегии за решение. Ще видиш и приложението на равновесието на Наш чрез примера за честотата на залагане и колване. Необходими са някои основни знания в областта на матричната теория за разбирането на тази статия.
Кратко въведение в теорията на игрите
Играта в математическия смисъл е съставена от следното:
- набор от играчи;
- набор, съдържащ всички (истински) стратегии за всеки играч;
- функция, асоциираща всеки стратегически профил (т.е. всеки играч избира стратегия) със модел на изплащане, който определя печалбата за всеки играч; тази функция определя изхода от това играч да избере дадена стратегия и да действа.
Останалата част от тази статия ще се занимава с игри от двама участници - тогава играта може лесно да бъде представена с две m x n матрици A и B. Играч 1 тогава има m стратегии (S1,...,Sm) и играч 2 има n стратегии (S'1,...,S'n). Ако играч 1 избере стратегия Si и играч 2 избере Sj, тогава печалбата е Aij за играч 1 и Bij за играч 2.
Печалба играч 1:
| S'1 | S'2 | ... | S'n | |
| S1 | A11 | A12 | ... | A1n |
| S2 | A21 | A22 | ... | A2n |
| ... | ... | ... | ... | ... |
| Sm | Am1 | Am2 | ... | Amn |
Играчите може също така да ползват смесени стратегии: това означава, че няколко чисти стратегии се разиграват с дадени вероятности, които, разбира се, общо се сумират до 100%. Смесена стратегия може да бъде представена от вектор р, като pi представлява вероятността да се изиграе стратегия номер i.
Aко играч 1 играе смесената стратегия p, а играч 2 играе смесената стратегия q, тогава получаваш печалби pAq и pBq. (За чисти стратегии това води до съответното поле в съответната матрица.)
Ако р даде максимална печалба на играч 1, то стратегия р се нарича "най-добрият отговор" на игровата стратегия на играч 2, ползващ стратегия q. Това е когато случаят е следният:
pAq >= p'Aq за всички стратегии p' на играч 1.
Аналогично, за играч 2 стратегия q се нарича най-добър отговор на играч 1, играещ по стратегия p, ако случаят е следният:
pBq >= pBq' за всички стратегии q' на играч 2.
Чифт стратегии (p,q), като p е стратегията на играч 1 и q на играч 2, се нарича "равновесие на Наш" , ако p е най-добрият отговор на q и q е най-добрият отговор на p.
Може да се докаже, че има поне едно равновесие на Наш във всяка игра (макар да не е задължително да е сред чистите стратегии).
Равновесието на Наш не трябва задължително да е ефективност на Парето (равновесието на Наш е ефективност на Парето, ако е невъзможно равновесието на Наш да бъде променено така, че един от играчите да получава по-голяма печалба, без другият играч да получава по-малко от преди).
Oт друга страна, чифт стратегии според ефективността на Парето не е задължително да бъде в равновесие на Наш. Познат пример на такъв чифт стратегии е затворническата дилема (на англ. език), но няма да навлизаме в детайли на тази тема. Други концепции за равновесие, които са интересни, но няма да дискутираме тук, включват eволюционно стабилните стратегии (на англ. език) и корелираното равновесие.
Ако двамата играчи имат две чисти стратегии, тогава има много прост метод за определяне на това кои стратегии ще направят равновесие на Наш - горният пример A=B=I2 може да бъде ползван тук.
Стратегия p на играч 1 има формата (a,1-a) с a eлемент oт [0,1], докато стратегията на играч 2 има формат (b,1-b) с b eлемент от [0,1]. Сега ще потърсим най-добрия отговор на играч 1 на стратегията (b,1-b) на играч 2: можем да направим това, като сравним печалбата от стратегиите (1,0) и (0,1) (т.e. печалбата на чистите стратегии за всяка от двете редици).
Ако играч 1 избере първия ред на матрицата, тогава неговата печалба е b, а ако избере втория ред, тогава печалбата му е 1-b. За b > 1-b, което е еквивалентно на b > 0.5, най-добрият отговор е първият ред, с други думи a = 1. Аналогично, за b < 0.5 вторият ред е най-добрият, с други думи a = 0. За b = 0,5 играч 1 получава печалба 1/2. Следователно, всяка стратегия е най-добър отговор.
Повтаряме тази процедура за играч 2. Поради симетрията в примера, получаваме b=1 за a > 0.5, b = 0 за a < 0.5 и всеки b eлемент от [0,1] за a = 0.5.
Равновесията на Наш се дефинират като чифтове стратегии, като всяка стратегия е най-добрият отговор на другата стратегия. Ясно е, че в илюстрацията пресечните точки на двойките показват къде имаме равновесия на Наш.
Равновесията на Наш в тази игра са ((1,0),(1,0)), ((0,1),(0,1)) и ((0.5,0.5),(0.5,0.5)).
Честота на залагане / колване
Нека разгледаме следната ситуация: играч 1 (извън позиция) и играч 2 (в позиция) се намират на ривъра и силата на ръката на играч 2 е точно дефинирана. Играч 1 знае дали е напред, а играч 2 е наясно, че играч 1 знае това.
Ако играч 1 може да победи ръката на играч 2, тогава играч 1, разбира се, ще направи стойностен залог (играч 2 винаги ще е чек бихайнд, тъй като знае, че играч 1 знае кой е напред). Отговорът на въпроса колко често играч 1 трябва да блъфира, разбира се, зависи от опонента. Например, той не трябва да блъфира срещу колинг стейшън, но трябва да блъфира срещу слаб опонент. За играч 2 решението дали да колне, или да фолдне на залог от играч 1, също зависи от опонента.
Taзи ситуация може да бъде моделирана като игра:
- Играч 1 има (чистите) стратегии да блъфира и да се въздържи от блъф. Смесена стратегия (a,1-a) тогава ще е стратегия, при която играч 1 ще блъфира с вероятност a, когато залага (а не стратегия, при която играч 1 ще блъфира с вероятност a, когато има лоша ръка. Повече за това в третата секция.)
- Играч 2 има (чистите) стратегии да колне и да фолдне. Смесена стратегия (b,1-b) ще е стратегия, при която играч 2 ще колва с вероятност b, когато играч 1 заложи.
Най-добрите отговори на стратегиите на опонента са относително лесни за определяне, както ще покажем сега (нека размерът на залога на играч 1 е с размер x*размера на пота):
За да може да направи печеливш кол, играч 2 трябва да е напред в x*пот / (x+2) * пот = x/(1+2x) oт случаите. Tова означава, че най-добрият отговор на играч 2 срещу стратегията (a,1-a) е фолд (това е (0,1) или b=0), ако a < x/(1+2x) .
Ако a>x/(1+2x), тогава най-добрият отговор на играч 2 ще е кол (т.е. (1,0) или b=1). Ако a=x/(1+2x), тогава всяка стратегия (b,1-b) с b eлемент от [0,1] е най-добър отговор.
За да може играч 1 да блъфира печелившо, блъфът трябва да е успешен в x*пот/(x+1)*пот = x/(x+1) oт случаите, т.е. играч 2 трябва да фолдва в поне x/x+1 oт случаите.
Tова означава, че най-добрият отговор на играч 1 срещу (b,1-b) при b>x/x+1 е да не блъфира никога (т.е. (0,1) или a=0). Най-добрият отговор на играч 1 срещу b е да блъфира винаги (т.е. (1,0) или a=1) и всички стратегии са най-добър отговор при b=x/x+1.
Получаваме точно едно равновесие на Наш: ((x/(1+2x)),1-x/(1+2x)),(x/x+1,1-x/x+1)).
Практически приложения на равновесието на Наш
Нека разгледаме ситуацията от гледната точка на играч 2. Нека важи x = 1, т.е. играч 1 прави залог с размера на пота. Tова прави (0.5,0.5) равновесие на Наш. Ако играч 2 колва в 50% от случаите и фолдва в 50% от случаите, тогава играч 2 не може да бъде експлоатиран в тази ситуация, т.е. опонентът на играч 2 не може да вземе решение, което ще увеличи очакваната му стойност.
Всяка от стратегиите има еднакво добър отговор на нашата стратегия. Стратегията (0.5,0.5) обаче, разбира се, не винаги е най-добрият отговор на стратегията на играч 1. В идеалния случай винаги ще имаме най-добрия отговор. Ако, например, опонентът е скала, тогава е доста лесно да предвидим стратегията му и да изберем най-добрия отговор. В тази ситуация ти дори не би си помислил да колваш в 50% от случаите срещу скала.
Добрите опоненти обаче постоянно ще променят стратегията си и ще се опитат да се адаптират към стила ти, докато ние самите ще се опитваме да се напасваме към промените, които прави противникът, и т.н. В идеалния случай винаги ще сме една стъпка напред, мислейки едно ниво по-високо от опонента. Тогава ще можем да предвидим стратегията му относително точно, т.е. ще можем да преценим колко вероятно е той да блъфира на този етап от играта (тук думата "игра" се ползва в обикновения смисъл).
За съжаление, понякога ще се изправяме срещу играчи, които са доста по-добри от нас, т.е. мислят на по-високо ниво от нас. Срещу такива опоненти е най-добре да ползваш стратегия, която не може да се експлоатира. По този начин човекът срещу теб не може да спечели от факта, че ни разчита по-добре, отколкото ние него. Ако си разменим картите с опонента, тогава ще печелим точно същата сума, която щеше да спечели и той от нас, тъй като отново можем да изберем стратегията от равновесието на Наш.
Заключителни бележки
a) Ако например си решил да извършваш дадено действие в 50% от случаите, тогава трябва то да е възможно най-случайно и възможно най-трудно за отгатване. Съществуват много неща, които можеш да ползваш като прост случаен генератор, например секундната стрелка на часовника ти или картата на ривъра, или кол, ако стойността на картата е четна. Този вид случаен генератор също може да се предвиди, ако е твърде очевиден или опонентите ти са твърде внимателен.
б) Както вече бе казано във втората секция, когато играч 1 ползва стратегията (a,1-a), това означава, че вероятността той да блъфира е a като цяло. А не вероятността да блъфира, ако има лоша ръка. Следователно, знаейки стойността, a не ни казва веднага колко често трябва да блъфираме, ако сме играч 1. Трябва да знаеш колко често всъщност ще имаш ръката, която искаш да репрезентираш с блъф.
Например, нека си представим борд JsTs42, на който ти очевидно си на дроу (стрейт или флъш), а играч 2 има готова ръка. Ако ривърът е 6s, а ти държиш KQ, за да определиш колко често ще блъфираш, трябва да вземеш предвид и колко често щеше да държиш флъша.
As9s-As5s, As3s, As2s, 9s7s, 8s7s, 8s6s, 7s6s, 7s5s, 6s5s, 5s3s е пример за реалистичен диапазон от 14 ръце. Ще държиш пропуснал стрейт дроу също толкова често (7 комбинации за всяко KQ и 98, ако приемем, че би изиграл OESD + флъш дроу по различен начин по-рано).
Ако сега искаш да блъфираш с вероятност 1/3, тогава се нуждаеш от 7 различни ръце, с които да блъфираш (7/(14+7)=1/3). Следователно, ако държиш пропуснал дроу, трябва да блъфираш в 50% от случаите: (7/14 = 1/2).
Ако можеш да премахнеш 98 от тази ситуация (може би поради префлоп действието), тогава няма да имаш флъш в 33% от случаите, което означава, че трябва да блъфираш всеки път, когато нямаш флъш.
в) Ако си на мястото на играч 2 и очакваш играч 1 да блъфира с честота, грубо отговаряща на равновесието на Наш, тогава винаги трябва да колваш, ако имаш "блокираща" карта в ръката си. Това е карта, която е част от ръцете. Тя издава опонента, правейки по-малка вероятността той действително да има това, което репрезентира.
Ако, например, имаш AsJd в примера от точка б), тогава 7 от 14-те ръце за флъш са невъзможни, тъй като съдържат Аs и следователно са "блокирани". Ако опонентът използва метода, описан в б), тогава той ще пресметне неправилно честотата на блъфовете за своите пропуснали дроус, тъй като ще мисли, че би държал по-често флъш, отколкото в действителност. Това ще доведе до това той да блъфира в 50% от случаите, вместо в 33%.
Ситуацията е подобна, ако ривърът е 9 вместо 6 и ти държиш QQ. Ако противникът заложи, тогава той ще репрезентира KQ, а половината от всички KQ комбинации могат да се елиминират.