Bijgewerkt op 06 jul 26 door

Nash-evenwicht en bluf-/callfrequenties

Introductie

In dit artikel

  • speltheorie en de toepassing ervan
  • nash-evenwicht
  • bluf-/callfrequenties

Inleiding

De speltheorie is een deelgebied van de wiskunde dat zich bezig houdt met de analyse van bepaalde conflictsituaties in bijvoorbeeld spellen. Als spel wordt in deze zin een situatie bedoeld waarin meerdere deelnemers met elkaar concurreren om een hulpbron, en waarin ieder zijn eigen strategie volgt. Deze strategie kan over het algemeen ook samenwerkende moves bevatten, en ze kan een vaststelbare winst geven.

Een centraal begrip van de speltheorie is het zogenaamhet "Nash-evenwicht" dat een toestand beschrijft waarin een strategisch evenwicht heerst tussen de spelers, ze van beide zijden altijd het beste antwoord op een actie van de tegenstander klaar hebben, en niemand zijn winst kan vergroten door eenzijdig van zijn strategie af te wijken.

Dit artikel geeft jullie een inzicht in de speltheorie, Nash-evenwichten als oplossings-strategieën en hun concrete toepassing bij het voorbeeld met bet- en callfrequenties. Voor het begrijpen van de tekst is een aantal fundamentele begrippen op het gebied van matrixberekeningen een voorwaarde.

Korte inleiding in de speltheorie

Een spel is in wiskundige zin bepaald door:

  • De hoeveelheid spelers
  • De hoeveelheid (pure) strategieën voor iedere speler
  • Een illustratie, die aan ieder strategieprofiel (iedere speler kiest een strategie) een uitbetalingstabel toekent, waardoor voor iedere speler een uitbetaling is bepaald. Door deze illustratie wordt dus een uitkomst bepaald, die ingaat wanneer de spelers voor een bepaalde strategie kiezen en het spel dan gespeeld wordt.

In het verdere verloop van dit artikel worden slechts spelen met twee
deelnemers behandeld. Het spel kan dan heel gewoon door twee m x n matrices A en B opgezet worden. Speler 1 bezit dan m strategieën S1,...,Sm en speler 2 bezit n strategieën S'1,...,S'n. Kiest speler 1 strategie Si en speler 2 strategie Sj dan is de uitbetaling voor speler 1 Aij en voor speler 2 Bij .

Uitbetalingen speler 1

S'1 S'2 ... S'n
S1 A11 A12 ... A1n
S2 A21 A22 ... A2n
... ... ... ... ...
Sm Am1 Am2 ... Amn

Geldt bijvoorbeeld A=B=I2 (2x2 eenheidsmatrix) dan krijgen beide spelers de uitbetaling 1 wanneer ze beiden de eerste, of beiden de tweede strategie kiezen, daar anders beiden de uitbetaling kregen.

Het is ook toegestaan dat de spelers gemengde strategieën spelen. Dit betekent dat meerdere pure strategieën met een bepaalde kans worden gespeeld, waarbij je in totaal natuurlijk op 100% komt. Een gemengde strategie kun je door een vector p aangeven, waarbij pi Voor de kans staat dat de i-ste strategie gespeeld wordt.

Speelt speler 1 de gemengde strategie p uit Rm en speler 2 de gemengde strategie q uit Rn, dan krijg je de uitbetalingen als pAq of pBq. (Dit leidt voor pure strategieën vooral weer tot de bijbehorende input in de betreffende schema's).

Een strategie p van speler 1 omschrijf je als beste antwoord op een strategie q van speler 2, wanneer p de maximale uitbetaling voor speler 1 oplevert, oftewel wanneer geldt:

pAq >= p'Aq voor alle strategieën p' van speler 1.

Analoog hieraan betekent een strategie q van speler 2 het beste antwoord op strategie p van speler 1 wanneer geldt:

pBq >= pBq' voor alle strategieën q' van speler 2.

Een paar (p,q) met strategie p van speler 1 en strategie q van speler 2 is in een Nash-evenwicht (NE) wanneer p het beste antwoord is op q en q het beste antwoord is op p. Zonder bewijs moet hier worden opgemerkt dat in ieder spel minstens één NE bestaat (maar niet noodzakelijk in pure strategieën).

Een NE hoeft niet pareto-optimaal te zijn. Een pareto-optimale toestand wordt bereikt wanneer de toestand niet meer veranderd kan worden, zodat een speler een hogere uitbetaling heeft zonder dat een andere speler er slechter van wordt.

Op dezelfde manier hoeft een pareto-optimaal paar strategieën geen NE te zijn. Een bekend voorbeeld hiervoor is het gevangene-dilemma. Daar zullen we echter niet verder op ingaan, net zoals op verdere interessante evenwichtsbegrippen zoals de evolutionair stabiele strategieën en gecorrelleerde evenwichten.

Hebben beide spelers slechts twee pure strategieën, dan is er een zeer eenvoudige methode voor de berekening van het NE. Deze moet aan de hand van het andere voorbeeld A=B=I2 worden uitgelegd.

Een strategie p van speler 1 heeft natuurlijk de vorm (a,1-a) met a element van [0,1], een strategie van speler 2 heeft de vorm (b,1-b) voor b element van [0,1]. Je zoekt nu voor een strategie (b,1-b) van speler 2 het beste antwoord van speler 1, terwijl je de uitbetaling van de strategieën (1,0) en (0,1) vergelijkt (dus de pure strategieën of de beide delen in de matrix).

Kiest speler 1 de eerste regel, dan is de uitbetaling voor hem b; kiest hij de tweede regel, dan is de uitbetaling voor hem 1-b. Voor b>1-b <=> b>0,5 is het beste antwoord dus de eerste regel, oftewel a=1, voor b<0,5 de bijbehorende tweede regel, oftewel a=0, en voor b=0,5 heeft hij in ieder geval de uitbetaling 1. Iedere strategie is dus het beste antwoord.

Hetzelfde doe je voor speler 2. Op grond van de symmetrie in het voorbeeld krijg je natuurlijk b=1 voor a>0,5, b=0 Voor a<0,5 en b willekeurig element van [0,1] voor a=0,5 .

NE's zijn nu per definitie strategie-paren, waardoor beide strategieën steeds de beste antwoorden op de betreffende andere strategie zijn. Deze vind je in de tekening logischerwijs door de snijpunten van de beide hoeveelheden.

De NE's van dit spel zijn dus ((1,0),(1,0)) ((0,1),(0,1)) en ((0.5,0.5),(0.5,0.5)) .

Bet-/callfrequenties

Let eens op de volgende situatie: speler 1 (out of position) en speler 2 (in position) zijn op de river en de handsterkte van speler 2 is erg goed gedefinieerd. Speler 1 weet of hij voor ligt of niet en speler 2 weet ook dat speler 1 dat weet.

Kan speler 1 de hand van speler 2 verslaan, dan zal hij natuurlijk valuebetten (speler 2 zou altijd check-behind spelen daar speler 1 al weet of hij voor ligt of niet). De vraag of en hoe vaak hij moet bluffen hangt dan natuurlijk van de tegenstander af. Tegen een callingstation bijvoorbeeld, moet hij natuurlijk niet bluffen, maar wel tegen tegen een zwakke  tegenstander. Ook voor speler 2 hangt de beslissing of hij na een bet moet callen of folden van speler 1 af.

Deze situatie kun je op de volgende manier als spel vormgeven:

  • Speler 1 heeft de (pure) strategieën bluffen en niet bluffen. Een gemengde strategie (a,1-a) betekent dan dat speler 1 met de kans a bluft wanneer hij bet (en niet dat hij met de kans a bluft wanneer hij een slechte hand heeft; meer daarover in het derde gedeelte).
  • Speler 2 heeft de (pure) strategieën call en fold. Een gemengde strategie (b,1-b) betekent dan dat hij met de kans b callt wanneer speler 1 bet.

De beste antwoorden op een strategie van de tegenstanders zijn relatief simpel te bepalen (de bet van speler 1 bedraagt het x-voudige van de potsize):

Om een winstgevende call te maken moet speler 2 in x*pot/(x+2)*pot = x/x+2 van de gevallen voor liggen. Dit betekent dat op de strategie (a,1-a) heeft hij "fold" als beste antwoord, dus (0,1) of b=0 ) wanneer a.

Hij heeft als beste antwoord "call" (dus (1,0) of b=1) wanneer a>x/x+2. Voor a=x/x+2 is iedere strategie (b,1-b) met b element van [0,1] een "beste antwoord".

Opdat speler 1 winstgevend kan bluffen, moet de bluf in x*pot/(x+1)*pot = x/x+1 van de gevallen succesvol zijn, ofwel speler 2 moet in minstens x/x+1 van de gevallen folden.

Dit betekent dat speler 1 als beste antwoord op (b,1-b) voor b>x/x+1 nooit bluft (dus (0,1) of a=0), voor b altijd bluft (dus (1,0) of a=1) en voor b=x/x+1 iedere strategie het beste antwoord is.

We krijgen dus als enige NE ((x/x+2),1-x/x+2),(x/x+1,1-x/x+1)).

Praktische betekenis van het Nash-evenwicht

Bekijken we de situatie bijvoorbeeld vanuit het standpunt van speler 2. Laten we aannemen dat x=1, dus speler 1 maakt een potsized bet. In het NE heb je nu de strategie (0.5,0.5) .
Wanneer je toevallig tot 50% callt en tot 50% foldt, ben je in deze situatie niet exploiteerbaar in de zin dat de tegenstander zijn verwachtingswaarde niet met een goede beslissing kan verbeteren.

Elk van zijn strategieën is een even goed antwoord op onze strategie. De strategie (0.5,0.5) is natuurlijk niet altijd het beste antwoord op de strategie van speler 1. Optimaal gezien willen we natuurlijk altijd met het beste antwoord reageren. Is de tegenstander bijvoorbeeld een rock, dan is het relatief simpel zijn strategie te voorspellen, en het beste antwoord te kiezen. Je moet hier niet op het idee komen om in 50% van de gevallen te callen.

Een goede tegenstander zal zijn strategie in een dergelijke situatie echter steeds weer veranderen, en zal proberen om zich aan onze speelstijl aan te passen, terwijl wij zullen proberen om ons aan deze aanpassingen weer aan te passen enz. Het is natuurlijk optimaal om de tegenstander altijd een stap voor te zijn, dus een level hoger te denken dan hij. Dan zul je zijn strategie relatief goed kunnen voorspellen, en dus kunnen inschatten of hij op dit moment van het spel tegen ons een bluf zou proberen of niet.

Je zult echter ook tegenstanders treffen die dit beter beheersen dan jij. Tegen deze is het het beste om een strategie te spelen die niet exploiteerbaar is. Daardoor kan hij er in deze situatie geen winst uit trekken dat hij ons beter kan readen dan wij hem. (Wanneer de kaarten omgekeerd zouden zijn, zou je net zo veel winnen als hij tegen ons, omdat je ook dan de strategie uit het NE kunt spelen)

Opmerkingen

a) Wanneer je bijvoorbeeld in 50% van de gevallen een actie wilt uitvoeren, dan moet die natuurlijk zo mogelijk per toeval en niet door een eventueel gemakkelijk herkenbaar systeem worden beslist. Als eenvoudige toevalsgeneratoren kunnen hier bijvoorbeeld de secondenwijzer van een horloge of de riverkaart worden gebruikt, waarbij je callt wanneer die een even waarde aangeeft, of foldt wanneer de waarde oneven is. Zo iets kan echter eventueel ook voorspelbaar worden, wanneer het systeem te vanzelfsprekend is, en de tegenstander heel oplettend is.

b) Zoals in gedeelte 2 al werd opgemerkt, betekende de strategie (a,1-a) van speler 1 daar dat speler 1 in totaal bluft met een kans van a en niet dat hij met een kans van a
bluft wanneer hij een slechte hand heeft. Deze informatie is in eerste instantie nutteloos. Je moet nog tellen hoe vaak je de hand die je presenteert hebt en hoe vaak niet.

Let bijvoorbeeld eens op het board JT42. Speler 1 zit vanzelfsprekend op een draw (straight of flush) en speler 2 heeft een made hand. Is de river 6, je hebt KQ en wilt bepalen hoe vaak je moet bluffen, dan moet je jezelf vooral afvragen hoe vaak je de flush hebt.

(A9-A5, A3, A2, 97, 87, 86, 76, 75, 65, 53) zou bijvoorbeeld een realistische range kunnen zijn, in totaal veertien handen. Een busted straightdraw zul je net zo vaak hebben (elk 7 combinaties van KQ en 98, wanneer je ervan uitgaat dat je OESD+FD daarvoor anders gespeeld zou hebben).

Wil je nu in totaal met een kans van 1/3 bluffen, dan heb je 7 handen nodig waarmee je bluft (7/(14+7)=1/3). Heb je dus een busted draw, dan moet je in 50% van de gevallen bluffen: (7/14 = 1/2).

Sluit je in deze situatie 98 uit (eventueel door de preflop-actie), dan heb je slechts in 33% van de gevallen geen flush, en moet je dus altijd bluffen.

c) Verwacht je als speler 2 dat de tegenstander ongeveer met een regelmaat bluft die overeenkomt met het NE, dan moet je callen wanneer je "blokkers" in je hand hebt. Dit zijn kaarten die in de handen voorkomen die de tegenstander representeert.

Heb je bijvoorbeeld bij het voorbeeld uit b) een AJ op de hand, dan zijn 7 van de 14 van zijn flushhanden niet mogelijk, omdat ze de aas omvatten (de handen zijn "geblokkeerd"). Wanneer de tegenstander de aanpak uit deel b) doorvoert, zal hij een foute bluffrequentie uitrekenen voor zijn busted draws, daar hij denkt dat hij vaker een flush zal hebben. In dit geval zal hij dan in 50%, in plaats van in 33%, van de gevallen bluffen.

Dezelfde situatie doet zich voor wanneer de river een 9 is, in plaats van de 6 en je QQ hebt. De tegenstander representeert KQ wanneer hij bet en ook hier is de helft van de KQ-combinaties niet mogelijk.