CA by mohlo zakázat využití údajů o poloze spotřebitele k stanovení cen

Je pozdě v noci a vy to potřebujete jízdu. Baterie vašeho mobilního telefonu je nebezpečně nízká.

Měla by vám společnost s Ridehailing, jako jsou Uber nebo Lyft, účtovat vám více, protože jeho programování umělé inteligence si myslí, že jste zoufalí, protože ví, že váš telefon se chystá zemřít?

Ne, pokud Hayward demokratický Aisha Wahab má cestu.

Jí Senát Bill 259 zabránil by maloobchodníkům v používání umělé inteligence k vylepšení cen pomocí informací uložených na telefonech zákazníků. To by mohlo zahrnovat výdrž baterie telefonu, ať už se jedná o starší model, jaké jsou aplikace nainstalovány, jakou denní dobu je, kde se nachází jeho uživatel a kde žije.

„Naše zařízení jsou proti nám zbraně, aby velké korporace zvýšily zisky, a musí se zastavit,“ Wahab Řekl soudci soudního výboru Minulý měsíc.

Wahabův účet za omezení cen dohledu, který pochází v zákonodárném sboru, je nejnovějším příkladem kalifornského zákonodárců, kteří se letos snaží vládnout v technologii AI. Jejich 29 Další legislativní návrhy letos zahrnuje zákaz používání Algoritmické systémy pro stanovení cen nájemného a opatření k Chraňte lidi před automatizovanou diskriminací AI Modely, které činí kritická rozhodnutí o zaměstnání, vzdělávání, vzdělávání, bydlení, zdravotní péči, financích, trestním odsouzení a přístupu k vládním službám.

Wahabovo opatření bylo snazší prodat než některé z ostatních návrhů AI, které již selhaly díky, částečně za to, že byla účtována jako součást demokratů ‚ Povolební sliby snížit náklady na Kaliforňany.

Má také podporu státních odborových svazů, které mají tendenci se dostat do zákonodárce.

Mezi jeho příznivce práce patří Americká federace státních, krajských a obecních zaměstnanců (AFSCME) a Kalifornská pracovní federace. Celkem tyto skupiny práce darovaly zákonodárcům za posledních 10 let nejméně 8,5 milionu dolarů, podle Calmatters Databáze digitální demokracie.

„High-tech útok na pracující lidi“

Odbory tvrdí, že používání algoritmů a AI k generování vyšších cen pro zákazníky je ze své podstaty diskriminační a mělo by být nezákonné.

Ivan Fernandez, lobbista s Kalifornskou pracovní federací, nazval praxe sledování ceny „high-tech útoku na pracující lidi“ Slyšení před Výborem pro ochranu osobních údajů shromáždění v červnu. Tvrdil, že lidé se již snaží dovolit vysoké životní náklady v Kalifornii a společnosti by neměly být schopny „využít naše data k vytlačení všech centu, které mohou“.

„Použití dat, jako je geolokace člověka nebo jejich telefonní baterie, aby bylo možné určit, kolik je za účelem dobré nebo služby dále zhoršuje tento problém dostupnosti pro naše přidružené členy a pro pracovníky,“ řekl Fernandez.

Na druhé straně jsou obchodní a technické skupiny, které také těžce darovaly zákonodárcům, ale mají tendenci se dostat méně často než práce.

Mezi oponenty patří Kalifornská obchodní komora a organizace lobbistického lobbyingu Silicon Valley Technet a Komora pokroku. 17 skupin, které jsou proti opatření, dalo zákonodárcům od roku 2015 nejméně 11,7 milionu USD, podle Digitální demokracy.

Opozice tvrdí, že návrh zákona není podle stávajících zákonů o ochraně osobních údajů v Kalifornii zbytečný, potlačuje by inovace, snížila se na zisky technologické společnosti a vedlo k vyšším cenám.

„Návrh zákona by nespravedlivě způsobil, že společnosti přepracovají své cenové modely a strategie za značné náklady, na úkor samotných podniků i jejich spotřebitelů,“ napsal Ronak Daylami, politický analytik s Calchamberem, v opozičním dopise soudci shromáždění. Tento výbor hlasoval 10-4, aby odeslal návrh zákona na podlahu shromáždění.

Mluvčí Calchamber John Myers odmítl dále komentovat.

Doposud zákon čelil malému odporu zákonodárců. Proti tomu hlasovali pouze republikáni, protože snadno prošli kalifornským senátem a když se procházel shromážděním.

„Tato nadměrná regulace brání tomu, jak podnikáme a jak lidé chtějí podnikat,“ řekl Assemblywoman Diane Dixonrepublikán, který zastupuje oblast Huntington Beach během Slyšení shromáždění Judicího výboru. „Jen věřím, že trh tyto problémy řeší.“

Několik demokratů, například MONTYBYMEMBERS Chris Ward San Diega a Lori Wilson ze Suisun City, zeptal se na vymáhání a také některé výjimky pro „legitimní využití“ geolokačních dat, ale Wahab většinou obdržel Kudos.

„Je to moderní redinganing,“ člen shromáždění Liz Ortega, demokratka, který zastupuje oblast Hayward, řekl Komisi pro ochranu osobních údajů shromážděnís odkazem rasista Úvěrové postupy, které před zákonem o spravedlivém bydlení z roku 1968 odsunuly černé a jiné nebílé rodiny do méně bezpečných a méně žádaných čtvrtí. Zastánci SB 259 tvrdí, že bez dalších záruk by společnosti mohly využít údaje spotřebitelů k zapojení do podobně rasistické cenové diskriminace.

„Tehdy to nebylo v pořádku a dnes to není v pořádku,“ řekla Ortega.

Bez ohledu na její obavy ohledně spravedlivé ceny, podpora Ortegy pro návrh sponzorovaný odborem není překvapující. Je bývalou celostátní politickou ředitelkou jednoho z místních odborů AFSCME. Od roku 2023 hlasovala podle digitální demokracie s pozicemi AFSCME a jeho přidružených odborů na legislativu 100% času ve 127 příležitostech. Rovněž obdržela dary kampaně od AFSCME a jejích přidružených společností 77 800 USD.

Testování technické loajality Newsomu

Když předsadila svůj návrh, Wahab se často označovala jako „bývalá technologická pracovníka v Silicon Valley“ a opřela se o své zkušenosti s prací s technologickými společnostmi jako obchodní IT konzultantka. Přesto je také silně v souladu s prací a odbory a hlasovala jejich cestu více než 90% času. Od roku 2021 obdržela téměř 50 000 dolarů v kampani od kalifornské pracovní federace a AFSCME, Podle databáze digitální demokracie.

Wahab namalovala společnosti ve svém bývalém průmyslu jako darebáky hladověry, kteří bezohledně využívají Kalifornští osobní údaje k vyložení jejich spodních linek.

Wahab poukázal na a Propublica hlásí, že vystavený Revize testovacích přípravných společností Princeton Review účtuje vyšší ceny za online doučování zákazníkům v PSČ, které měly vysoké procento asijských obyvatel, a to i v sousedství s nízkými středními příjmy.

„Jste diskriminováni na základě vašeho vnímaného socioekonomického postavení,“ řekl Wahab Calmatters.

Také citovala Hlášení od SFGate To údajné platformy pro rezervaci hotelu by uživatele, jejichž zařízení ukázala, že procházejí z oblasti Bay, někdy až 500 $ za noc více než uživatelé v jiných částech země.

A zdůraznila zprávu od Hlídač pro spotřebitele advokacie To údajné aplikace pro jízdu, jako jsou Uber a Lyft, účtovaly vyšší ceny jezdcům, jejichž telefonní baterie byly nízké – tvrzení, že společnosti popírají.

„Návrhy, že naše systémy manipulují s cenami nespravedlivě nebo diskriminují, jsou jednoduše nepravdivé a nejsou podporovány důkazy,“ napsal Zahid Arab, mluvčí Uber, v e -mailovém prohlášení. Shadawn Reddick-Smith, zástupce společnosti Lyft, uvedl v e-mailovém prohlášení, že společnost „nezakládá tarify na procentech baterie“.

Alespoň jeden odborník na Tech říká, že kritika z obchodních skupin, že návrh zákona by potlačil inovace a vedl ke ztrátám zisku, jsou nepřesné, speciální a „divoce přehnané“.

„Odvětví vybudovala obchodní model na systematické porušení našeho soukromí způsoby, které nechceme a obecně nesouhlasí,“ řekl David Evan Harris, bývalý výzkumný manažer společnosti Meta a lektor na UC Berkeley Haas School of Business. „Lidé by neměli být v omyl do souhlasu s věcmi.“

Robert Boykin, zástupce pro obchodní skupinu Technet, poznamenal, že kalifornský zákon o ochraně osobních údajů již poskytuje spotřebitelům „smysluplná práva“, jako je schopnost odhlásit se z prodeje přesné geolokace a ochrany před diskriminací, pokud se tak rozhodnou.

Řekl, že zákon také umožňuje společnostem nabízet zákazníkům „výhody, jako jsou věrnostní programy a slevy na stanovení cen, pokud jsou spojeny s hodnotou dat a splňují přísné standardy“.

Wahabovo opatření bude pravděpodobně slyšet plné shromáždění, když zákonodárci znovu převedou ze svého letního výklenku v polovině srpna. Brzy poté by to mohlo skončit na stole Gov. Gavin Newsom.

Guvernér má s technologickými společnostmi přátelštější vztah než zákonodárce. V loňském roce Newsom vetoval hrst účtů, které se snažily regulovat AI. Zahrnuli zákazy na kamionech s vlastním pohonem a Zbraně roboti stejně jako komplexní opatření přesvědčivé testování modelů AI.

V červenci, Newsom svolal panel kalifornských technologických vedoucích pracovníků Aby bylo možné identifikovat neefektivnost v operacích státní vlády, kývnutí na Trumpovo nasazení generálního ředitele Tesla Elona Muska, aby předělal federální byrokracii. Údajně dokonce Odeslal telefonní telefony „hořák“ téměř 100 technologickým vedoucím pracovníkům Takže ho mohli důvěrně kontaktovat.

Mluvčí společnosti Newsom, TARA Gallegos, řekla Calmatters, že guvernérská kancelář se nevyjádří k probíhajícím právním předpisům.