Fix shared memory leak

The MIT-SHM documentation:
  https://www.x.org/releases/X11R7.7/doc/xextproto/shm.html
says to run XShmDetach() first, and then to destroy the segment.

(cherry picked from commit 585ee24d4cd81759ca7206d5d5181a491c2e8898)

Increase time required to override pointerClient

Mouse events in shared connections are locked to one viewer at a time.
If the a mouse drag is happening in the first viewer, the second viewer
can't interfere unless the first viewer has been inactive for a set
amount of time. This timeout was put in place in
71c83b479335337b25dc331d3fb4a6e29382ceb5 to handle the case where the
first viewer disconnects while the mouse drag is happening. Prior to the
timeout, this resulted in all input being blocked.

This commit increases this timeout from 3 seconds to 10 seconds. This is
to minimize the risk of this happening during "normal" use. With this
change, the first viewer has to be inactive for 10 seconds before the
second viewer can take control again.

In the case where the first viewer disconnects, a waiting time of 10
seconds for the second viewer seems very reasonable.

Break long lines in new pointerEvent logic

Fix bad variable reference in file logger

Merge pull request #1718 from MikeLooijmans/server-mousebuttonowner-timeout

VNCServerST: Add a timeout to pointer button ownership

Set all HAVE_ macros on the top level

This keep everything consistent.

Remove superfluous X11_FOUND check

It is REQUIRED in this context, so we can assume X11 has been found.

Merge branch 'systemd' of https://github.com/CendioOssman/tigervnc

Document optional libsystemd requirement

Allow combining socket activation and extra ports

The common use case is probably to only listem to the systemd provided
socket when using socket activation, but it might not be the only use
case. Make sure things can be combined if explicitly requested.

Log when sd_listen_fds() fails

Use SD_LISTEN_FDS_START constant

Avoid magical numbers as it makes it hard to understand the code.

Make systemd detection more robust

We don't need to look for this on Windows or macOS, and we need to be
able to gracefully handle systems without pkg-config.

VNCServerST: Add a timeout to pointer button ownership

When one clients holds down a button on the pointer device (probably
dragging something), other clients' attempts at pointer operations
are denied. This yields a sane user experience, but with limits.

When one clients starts dragging, and then his network connection fails,
other clients are denied access to the pointer until the VNC server
finally discovers that the connection is dead and closes it. This can
take about 15 minutes.

Add a timeout to this policy: If we don't hear from the client for 3
seconds, other clients are allowed to control the pointer once more.

This solves the problem that one failing network could make the server
completely deaf to other clients for a long time.

Signed-off-by: Mike Looijmans <mike.looijmans@topic.nl>

VNCSConnectionST: Release mouse button(s) on close

When the connection is severed, release all mouse buttons.

This fixes an issue with x0vncserver where the local display
would stop responding to mouse events if the connection closes
while the remote user was holding down a mouse button.

To reproduce, start a VNC client, press and hold a mouse button
and then kill the connection (e.g. close client, kill server,
yank network cable). This caused the local screen to no longer
respond to any mouse-down events until a VNC client reconnects
and clicks anywhere.

This may inject a "mouse release" event while closing, however,
if you click on your screen and then yank the mouse cable, a mouse
release event also would not come unexpectedly, so the cure's
side effects aren't as bad as the disease.

Signed-off-by: Mike Looijmans <mike.looijmans@topic.nl>

x0vncserver: Add support for systemd socket activation

systemd can pass in sockets as file descriptors 3 and beyond. Allows
the server to use socket activation.

When triggered by systemd, no other listening sockets (e.g. rfbport) will
be activated.

Signed-off-by: Mike Looijmans <mike.looijmans@topic.nl>

Set Pixmap depths after creating visuals

This affects the ordering of visuals, which breaks some buggy
applications that assume the first visual is the root window visual.

Update copyright year to 2024

Xvnc: do not use dup2() to create a file descriptor for -inetd option

Use dup() instead to get an available file descriptor to avoid hijacking
already existing descriptor.

Fixes #1709

Merge branch 'master' of https://github.com/zmudc/tigervnc

Merge branch 'master' of https://github.com/LMattsson/tigervnc

Prevent incorrect cmake usage

It's a reoccurring issue that users try to build individual components
by pointing cmake at a specific subdirectory, e.g. 'cmake vncviewer'.
CMake, unfortunately, has insufficient protection against this so we'll
need to add a manual check.

This commit only adds it to the most likely places for misuse so we
don't have to pollute every CMakeLists.txt.

Update server configure example to RHEL 9

Some of the flags have been removed and we don't need to consider 32-bit
libraries anymore.

Remove unnecessary step from building the server

It seems this folder is created when building the vncviewer, which has
to be built before the server.

Clarify details about requirements in BUILDING.txt

Add missing requirements to BUILDING.txt

Merge branch 'keysym' of github.com:CendioOssman/tigervnc

Automatically generate keyucsmap.h

All the information we need is now available in keysymdef.h, so let's
get everything updated and in sync.

Move Keysym/Unicode mapping table to separate file

Make it easier to see what's code and what's just a lot of data.

Move dead/combining keys to separate table

This is a manually set up table specific for TigerVNC. For clarity,
separate it out from the general keysym/Unicode table.

Fix logging when no working VeNCrypt types

Otherwise it will log that we chose the (invalid) type 0.

Replace INITARGS with void in function parameter list

Most compilers currently accept arbitrary identifiers in this place
and ignore then, but this is going to change and turn into an error.
(It prevents compilers from diagnosing misspelled type names,
and the resulting declaration is not a prototype, so no type
errors will be reported at call sites.)

Add option to run vncsession without forking and detaching

Option is -D, which is what sshd uses for the same option.

Also add description of the new option to the vncsession
man page.

Tested on Void Linux using the new option, also tested on
Fedora without using the new option.

Resolves #1649

Merge branch 'zrlee-compression-level' of https://github.com/adamhalim/tigervnc-suite

Use compressionLevel in ZRLEEncoder

This change makes the ZRLEEncoder respect a client's desired
compressionLevel. The ZlibLevel option is marked deprecated and removed
from the manpages.

Update keysym header files

This make sure we have any new defines, in case we want to use them.

Add own keysym to name function

This is mainly a copy of XKeysymToString() from libX11. We've also added
a wrapper that still gives a string, even if there is no name for the
requested keysym.

This grows the binaries a bit, but not with any extreme amount so is
hopefully worth it to get better debug logging.

fix spelling error

Merge pull request #1690 from LMattsson/LMattsson-patch-1

Clarify how to build server out-of-tree

Clarify how to build server out-of-tree

Merge branch 'casantos-rhbz_2233204-b' of https://github.com/casantos/tigervnc

Update Russian translation

Fix description of "%u" in manual pages.

We user the real, not the effective user ID, to check if the user is
allowed to log in with the "Plain" security types. Otherwise it would be
necessary to log in as root when Xvnc is installed with the set-user-id
bit on.

Signed-off-by: Carlos Santos <casantos@redhat.com>

Support the "%u" username alias in PlainUsers

This permits to enable PAM for the effective user of the Xvnc process by
adding this to ~/.vnc/config or /etc/tigervnc/vncserver-config-defaults:

   SecurityTypes=TLSPlain
   PlainUsers=%u

Fixes: https://bugzilla.redhat.com/show_bug.cgi?id=2233204
Signed-off-by: Carlos Santos <casantos@redhat.com>

Enforce accelerators in translations

Make sure we don't overlook missing accelerators in the translations
again.

Fix missing/wrong menu accelerators

They were unfortunately omitted here and there for some languages.

Update Turkish translation

Completely ignore server clipboard when unfocused

We can get races with clipboard managers in the server that is very
confusing to the user.

When the clipboard changes locally, we tell the server to drop the old
clipboard (as it is now lost). But we don't send over the new clipboard
until we get focus again, in order to not leak more data than necessary.
This causes some clibpoard managers to take over ownership in order to
avoid an empty clipboard. And this takes precedence over the new client
clipboard as it happened later. Effectively reverting the clipboard the
user sees.

Avoid all of this by simply ignoring the server when we don't have
focus. This is likely what users expect anyway as they expect their
currently focused application to control the clipboard, not vncviewer in
the background.

More graceful handling of disabled listeners

Don't assume a lack of TCP listeners means the server will be
unreachable. There might be other methods of access, so let the higher
levels do that sanity check instead.

Only set up TCP filter for TCP connections

This will not do the correct thing for Unix sockets.

Improve log message when mapping keysyms

It was a poor choice of words to call these keysyms "unknown" as they
are likely perfectly normal keysyms, they just cannot be found in the
currently loaded keyboard layout. This log message has confused users,
so let's get rid of the "unknown" part.

We already use the verb "add" heavily in the other log messages, so
let's keep that rather than switch to some for of "map".

Merge branch 'ryandesign-NSHighResolutionCapable' of https://github.com/ryandesign/tigervnc

Change accelerator for "Disconnect" entry

Using "c" is in conflict the the "Ctrl" entry, so we need to pick
something else here.

This was a regression introduced in 44b085a.

Move custom FLTK box types to valid range

FLTK only allows 256 different box types, but it doesn't actually check
this when registering new ones.

Move our custom types to a valid range, and add an assert for good
measure to make sure we don't overflow FLTK's internal structures.

Add missing accelerator in Hebrew translation

Add missing accelerator to Korean translation

Automatically respect changes in LINGUAS

Since the contents of the LINGUAS file affects which targets are
created, we must tell CMake to reconfigure things if this file changes.

Update Korean translation

Update French translation

Avoid legacy C function definitions

These aren't supported in C2x, and clang will already now complain.

Remove stray space in format specifier

Make NSHighResolutionCapable a Boolean in Info.plist.in

Merge pull request #1648 from TigerVNC/copyright

Update copyright year to 2023

Update copyright year to 2023

Merge branch 'newui-lite' of https://github.com/CendioOssman/tigervnc

Use modern UI colors

Follow the colors that modern desktops use when it comes to background,
text and selections.

Workaround for broken fl_arc()/fl_pie()

There is something broken with these FLTK draw routines on Windows. They
leave gaps at the start and end of the arc/pie rather than filling the
whole specified span. So we need to nudge the numbers a bit to work
around this.

Apply custom theme to FLTK

Inspired by modern Windows appearance, and to some extent macOS. They
have flat boxes and use white, or very light, colors for interactive
elements. Unfortunately we can't directly control the colors of
widgets, so instead we just lighten everything that uses this box type.

GNOME uses a different design, both their older and newer style. But UI
look is less consistent on Linux, so hopefully our new look is decent
enough there as well.

Fix correct background in Fl_Input_Choice

Work around a bug in Fl_Input_Choice where it forgets to set the proper
"input background" on some parts.

Respect selection color in monitor widget

We should have a consistent color set over all widgets.

Don't tag up gettext's *wprintf() functions

gcc doesn't support -Wformat for the wide format versions of printf()
and friends yet:

https://gcc.gnu.org/bugzilla/show_bug.cgi?id=38308

Do what glibc does and have some commented out tags to show future
intent.

Unbreak -Wformat warnings when gettext is used

gettext replaces all *printf() functions on platforms that don't fully
conform to the POSIX behaviour. Unfortunately, gettext fails to tag
these replacement functions properly so that -Wformat can still do its
thing.

Resolve this by adding a redudant declaration of the relevant functions,
with the attribute tagging in place.

Use smaller, stable, int for history index

The size of size_t depends on the architecture, so we need to have
different conversion to and from strings. But we don't really need that
range, so avoid the issue by using a standard integer size.

Merge branch 'hostexception' of https://github.com/CendioOssman/tigervnc

More logging for server cert exceptions

Let's log a bit more details when we need to deal with certificate
exceptions to make it easier to debug things.

Allow exception for cert hostname mismatch

The browsers let you add an exception for this case, so we should as
well.

Improve reporting of certificate errors

GnuTLS can help use translate certificate issues in to user presentable
strings, so let's clean up that reporting.

Allow exception for weak certificate algorithms

The browsers let you add an exception for this case, so we should as
well.

Remove double expired certificate prompts

This should have been done in 5f46d55.

Allow exception for not yet activated certificates

The browsers let you add an exception for this case, so we should as
well.

Make sure we handle all certificate issues

We don't want to proceed unless we've made sure the user has approved
the issues with the certificate. So add an extra check that all status
flags have been dealt with.

Handle GNUTLS_CERT_INVALID in TOFU code

GnuTLS should hopefully never set just this flag, but let's be fully
prepared for all scenarios.

Remove old GnuTLS compatibility code

We've required GnuTLS 3.x for a long time, so this code has been dead
for a while.

Fix WM_CLASS in desktop file

The WM_CLASS we set on all windows is just "vncviewer", so that it
matches the name of the .desktop file, which is what GNOME expects.

Merge branch 'types2' of https://github.com/CendioOssman/tigervnc

Don't allow surrugate code points in UTF-8

These are not valid outside of UTF-16 so seeing them in a UTF-8 sequence
means that something is wrong with that sequence. Best to filter them
out rather than letting them propagate and have unknown effects.

Clean up string encoding handling

We should handle this in the low-level protocol code as much as possible
to avoid mistakes. This way the rest of the code can assume that strings
are always UTF-8 with \n line endings.

Emulate corking when TCP_CORK is missing

If we can't rely on the OS to handle corking for us, then we need to
enable our own handling of it.

Move where -nodefaultlibs is specified

The previous method isn't compatible with CMake's try_compile() as it
will respect CMAKE_EXE_LINKER_FLAGS, but not CMAKE_C_LINK_EXECUTABLE and
friends. This results in the default libraries being completely missing,
and the compile test failing.

Drop xorg-x11-font-utils requirement for RHEL 9

They've patched their Xorg sources to no longer require this package.

Merge branch 'noxtest' of https://github.com/CendioOssman/tigervnc

Fix missing XRandR build

Make sure we can actually build without XRandR libraries.

Fix missing XFixes build

Make sure we can actually build without XFixes libraries.

Fix missing XTest build

Make sure we can actually build without XTest libraries.

Remove unneeded "using namespace"

The need for these must have got lost somewhere in the type cleanup.

Avoid wildcards in cmake rules

They are not fully supported and break with some backends, like Ninja.

Handle REQUIRED in our CMake "find" modules

These are expected to abort if they fail to find the relevant software
and "REQUIRED" is specified.

Prefer target_include_directories()

It is more specific, and it properly sets up propagation when include
directories also need to be used further down a dependency chain.

Add all common inter-dependencies

This is important in case there are build flags that need to propagate
between libraries for things to build correctly.

Include Debian debug files in artefacts